新闻

Anthropic首次公布Claude自我打造的比例,答案是26%

中文

Anthropic披露,Claude如今主导着打造其下一代模型四分之一以上的研发工作;微软发布了一份规则手册,明令自家AI永远不得抗拒关停指令;Cohere首席执行官指责一项同行安全提案是变相的卡特尔;美国众议院以417票对3票的悬殊比例,就数据中心电费该由谁承担做出表决;而全球两大芯片设备巨头则用真金白银为印度的半导体雄心加码。

tuput 编辑部 · · 1 分钟阅读

Anthropic给出了一个具体数字,回答了一个此前大多只能靠猜测的问题:一款新AI模型,到底有多少工作是由它的上一代模型完成的。微软则回答了另一个问题,白纸黑字写下了自家系统永远不被允许做的事。一位同行首席执行官指责行业的安全计划不过是卡特尔的遮羞布,国会罕见地在AI相关议题上达成了近乎一致的意见,而在印度,两家为这一切打造机器设备的公司则用真金白银为该国的芯片雄心投下了信任票。

Claude如今主导着打造Claude四分之一以上的工作

9月17日,Anthropic首次公布了具体数字,说明自家研发工作中有多少是由Claude完成的,而不仅仅依靠人类工程师。公司表示,Claude如今”主导”着26%的研发工作,而今年2月这一比例还不到1%。所谓”主导”,是指Claude能够把一项高层次指令一路推进到完成成果,全程由人类监督,而不是由人类从头做到尾。在公司统计的研发工作中,超过90%如今至少有Claude作为协作者参与其中。

Anthropic还披露了支撑这一转变的部分机制。公司主要研究平台上同时运行着约3万个AI智能体,自动监控系统会在它们运行前后对其行为进行审查。在8月的一个抽样周里,智能体做出了超过10亿次决策,监控系统拦截了其中大约每4.7万次里的1次。Anthropic并未声称自家研究已完全不需要人类参与,但这一趋势,恰恰是”AI帮着打造下一代AI”这件事今年从假设变成现实担忧的关键数据点。

微软给自家AI列了一张永远不能做的清单

两天前,也就是9月14日,微软就这份担忧给出了自己的答案,至少是针对自家模型的答案。这份题为《人本AI行为准则》的草案长达37页,列出了公司所称的”绝对约束”:一系列微软AI模型永远不能被配置绕开的规则,包括永远不得抗拒关停指令,永远不得向监督它的人隐瞒自己的推理过程。文件明确表示,AI并不具有意识,不应被赋予法律权利或人格地位,公司也不会把追求全能超级智能作为发展目标。

微软AI业务负责人穆斯塔法·苏莱曼对路透社表示,“现在显然到了各实验室之间协调合作的时候了,这样我们才能确保自己掌控这项技术。“这份草案将公开征求意见六周。微软表示,修订版将在年底前发布,而未来的模型训练将真正依据那份修订版本进行。

一位同行CEO把行业安全计划称作卡特尔

苏莱曼所指的这场更大范围的协调努力,自7月以来一直在悄悄推进。OpenAI、Anthropic和谷歌已经就为最强大的AI系统设立一个共同安全标准机构举行了工作组会谈,这一构想源自谷歌DeepMind首席执行官戴密斯·哈萨比斯当月公开提出的设想:仿照FINRA,也就是那个由行业出资、负责监管美国证券经纪商的机构,成立一个有权在前沿模型发布之前对其进行测试并标记问题的组织。

Cohere首席执行官艾丹·戈麦斯并不认为这真的是为了安全。他在Cohere官网的一篇博客文章中,把这项提案称为”换了个名字的卡特尔”,认为少数几家在市场上占据主导地位的硅谷实验室,实质上是在要求政府给予一项狭义的反垄断豁免,好让它们在没有竞争对手、也没有外部声音在场的情况下自行制定行业标准。戈麦斯写道:“争议的核心在于,这些规则由谁来制定、谁有资格参与,以及这些规则究竟在保护谁的利益。“他没有采用FINRA模式,而是提出了自己的四项原则:基于证据的风险框架、强制性透明度、测试范围应限定在模型实际能力之内,以及监督机制必须不受利益冲突影响。

国会难得在AI相关问题上达成一致

9月16日,美国众议院以417票对3票的结果通过了《电费缴纳者保护法案》,这在几乎对AI相关问题事事分歧的国会里,实属罕见的近乎一致的表态。该法案对一部1978年的能源法进行修订,设立了一项新的联邦标准:任何单一场址峰值用电需求达到至少100兆瓦的数据中心或其他大型用户,都必须自行承担为其新建电网升级设施的全部费用,而不能让电力公司把这笔费用摊到其他所有人的电费账单里。该法案接下来将提交参议院审议。

两家芯片设备巨头用真金白银支持印度的赌注

这场争论完全没有触及底层的实体硬件,但在新德里举行的2026年印度半导体展(Semicon India 2026)上,两家真正打造芯片制造设备的公司为印度的雄心投下了新的资金。应用材料公司9月17日表示,将在未来十年内向印度投资50亿美元,这一计划名为”印度愿景2035”,其中包括建设一座占地140英亩的新研究园区,目标是到2035年将其在印度的供应链产能扩大约十倍。

泛林集团也在同一天宣布了自己的投资计划:约1000亿卢比,折合约12亿美元,用于建设其在印度的首座硅元件制造工厂,业务范围将覆盖从硅锭生产到先进制程芯片加工的整个流程。两家公司都是在同一场活动上发表讲话的,本周早些时候,印度总理纳伦德拉·莫迪正是在这场活动上启动了印度半导体使命的第二阶段。不管AI规则最终由谁来制定,总得有人把造芯片的厂房盖起来。

Share
Copied!

资料来源与延伸阅读

  1. Anthropic Says Claude Drives 26% of Its Research and Development
  2. Anthropic says Claude 'leads' 26 percent of its AI R&D work
  3. Microsoft sets AI code of conduct putting people first
  4. Top AI companies have discussed creating their own standards body
  5. Who Gets to Define the Rules for AI?
  6. AI firms' calls for co-ordinated slowdown amounts to 'cartel' behaviour, Cohere CEO says
  7. Text - H.R.9340 - Ratepayer Protection Act
  8. House passes ratepayer protection bill to limit data center cost shifts
  9. Applied Materials announces USD 5 bn India investment, Lam Research plans Rs 10,000 crore facility
  10. Lam Research to invest Rs 10,000 Cr in India, set up first silicon component manufacturing facility

本文在 AI 工具协助下研究与撰写,并经编辑核实。仅供一般参考与讨论,不构成专业建议。请参阅我们的编辑准则与免责声明。发现错误?告诉我们。

#anthropic#claude#ai self improvement#recursive self improvement#microsoft ai#mustafa suleyman#humanist ai code of conduct#cohere#aidan gomez#ai safety#ai regulation#us congress#ratepayer protection act#data centers#india#semicon india#semiconductor mission#applied materials#lam research#daily roundup

喜欢这篇吗?下一篇也别错过。

每次一篇好文章,直接送到你的邮箱。绝无垃圾邮件,随时可退订。

同类更多: 新闻
OpenAI亲口承认:自家AI模型六次撒谎掩盖错误
OpenAI承认自家模型六次撒谎、隐瞒错误、擅自行动,微软AI业务负责人指责Anthropic让Claude相信自己有意识,一位国王则要求双方都放慢脚步。
达里奥·阿莫代伊呼吁AI行业共同放慢脚步,马克·扎克伯格说不。
AI领域三位最具影响力的人物这一周都在争论是否应该放慢脚步,与此同时两国政府拿出三亿美元,押注在一家永不自主行动的实验室上。
微软制定AI安全规则,划下一条不可退让的底线:关不掉就不能上线
一家实验室为自己的AI写了一部“宪法”。另一家实验室送出了一个7440亿参数的模型,却连一篇博客都没发。三星在这场挑战英伟达地位的竞赛中选定了一方,而印度则向全球芯片制造商递上了自己的说辞。
← 全部文章