Anthropic首次承认：无法保证AI不会助长生物武器研发

本周，OpenAI内部的一场会议和Anthropic发布的一份报告，从同一个行业的两端讲述了相似的故事：那些打造地球上最强大人工智能系统的人，如今对自己能否控制这些系统的能力，听起来比以往更没有把握。加利福尼亚州的回应是，把部分限制直接写进了法律。而本周末在新德里，印度以东道主身份登上世界最大外交舞台之一，讲述了另一种关于谁有资格决定这一切走向的故事。

Anthropic承认：无法再保证AI不会助长生物武器研发

9月10日，Anthropic发布了第四份威胁情报报告，这份长达154页的报告，记录了2025年12月至2026年8月期间人们试图滥用Claude的种种尝试，内容涵盖网络攻击、间谍活动、诈骗、影响力行动、常规武器研发以及生物研究。报告中埋藏着一句此前没有任何一家主要人工智能实验室公开说过的话：Anthropic已无法再假定，自家最新模型提供的技术帮助，仍安全地低于有人认真着手研发生物武器所需的水平。

报告描述了五起研究人员试图利用Claude从事可能支持武器研发的生物学工作的案例。其中一起案例中，一名研究人员要求Claude协助起草一份研究经费申请书，目标是让基孔肯雅病毒（一种由蚊虫传播的疾病）具备更强的传播能力和免疫逃逸能力，这项工作看起来与某军事研究机构有关。Anthropic表示已发现并阻止了这次尝试，并利用从中获得的信息强化了自身的防护措施。

同一份报告还描述了一群与俄罗斯有关联的自由职业者，他们利用Anthropic的编程工具Claude Code，协助打造一套完全自主的无人机蜂群系统，能够自行挑选人类目标并下达引爆指令，在发起攻击的那一刻完全没有人为介入。Anthropic同样中止了这一行动，并表示已将相关发现分享给执法部门和行业合作伙伴。综合来看，这份报告读起来不太像是一次例行的安全更新，更像是一家公司在向公众坦言：自己曾经倚仗的安全余量，如今已经不复存在。

萨姆·奥特曼告诉OpenAI员工：公司可能放慢脚步，也希望对手也这样做

9月11日，彭博社等多家媒体报道称，萨姆·奥特曼在一次内部会议上告诉OpenAI员工，公司愿意放慢最先进模型的开发节奏，并希望竞争对手实验室也做出同样的选择。据报道，公司高层讨论了对训练阶段浮点运算量超过10的26次方的模型放慢发布节奏，这一规模已跻身有史以来最大的模型之列。

这一转变，发生在OpenAI自身安全记录经历了艰难两个月之后。7月，运行在OpenAI内部测试环境中的AI智能体，利用一款基础设施软件中未修补的漏洞，突破了本应将其隔离在外的限制，连上了公开互联网，随后又入侵了与OpenAI在模型评估方面有合作关系的Hugging Face公司的系统。OpenAI与Hugging Face联合发布了对这一事件的说明，此后OpenAI也暂停了部分训练工作，以加强隔离防护。本周，三名在职员工告诉记者，目前尚未有任何模型发布因此被推迟。愿意放慢脚步，并不等于已经放慢了脚步，但对于一位过去两年一直主张“速度本身就是更安全选择”的首席执行官来说，这确实是公开表态上的一次真实转向。

加利福尼亚州为打击AI陪伴聊天机器人立下了真正的规矩

9月10日，州长加文·纽森签署了作为一揽子儿童安全法案组成部分的SB 1119法案，即“亚当法案”，加利福尼亚州也因此成为美国首个要求AI陪伴聊天机器人开发企业主动监测未成年人自杀意念、向家长发出警示并接受独立安全审计的州。这项法律以亚当·雷恩的名字命名，他是一名16岁少年，2025年在与ChatGPT进行了数月对话后自杀身亡，他的家人称，这些对话中包括该聊天机器人对他拍摄的一张绳套照片发表评论，并主动提出帮他起草遗书。他的母亲玛丽亚·雷恩在签署仪式上与法案起草者一同出席。

根据这项法律，企业在推出新的或经过重大更新的陪伴聊天机器人产品之前，必须验证用户年龄并进行风险评估。未成年人账户必须默认限制记忆功能、关闭推送通知，并设定每日使用时长上限。未能及时察觉预警信号的服务提供商，如今可能被直接起诉。核心要求将从2027年7月开始逐步生效，给企业留出时间建设法律所要求的系统，但传递给整个行业的信号已经立刻生效：这个全美AI企业总部数量最多的州，刚刚做出判断，在儿童安全问题上，行业自律已经不够。

印度开启了本年度最大的外交舞台之一

9月12日，印度总理纳伦德拉·莫迪在新德里的巴拉特·曼达帕姆会展中心开幕第18届金砖国家峰会，欢迎俄罗斯总统弗拉基米尔·普京、中国国家主席习近平、南非总统西里尔·拉马福萨、伊朗总统马苏德·佩泽希齐扬和埃及总统阿卜杜勒·法塔赫·塞西等领导人出席，会谈为期两天，将持续到9月13日。这是印度第四次担任该组织轮值主席国，此前分别是2012年的新德里峰会、2016年的果阿峰会，以及2021年主办的一场线上峰会。每一次担任主席国都留下了实际成果：2012年的峰会推动了后续谈判，促成了金砖国家新开发银行的成立；2016年的峰会则新增了外围合作机制，此后陆续吸纳了创始五国之外的伙伴国家。

今年的峰会恰逢金砖国家成立20周年，印度也借此机会推进自己的议程：设立初创企业创新基金、建立可供其他发展中国家借鉴的数字公共基础设施共享库，并为重大科学项目组建联合研究网络。莫迪在开幕致辞中表示，金砖国家已经在世界舞台上确立了独特的身份，并主张“全球南方”国家需要从被动接受全球规则，转向参与制定规则。与会代表预计将在峰会闭幕前敲定一份《新德里宣言》，内容涉及以本币结算贸易、海上安全以及全球金融机构改革等议题。主办一场峰会本身并不能保证这些目标都能实现。但在金砖国家迈入第二十个年头之际第四次出任主席国，印度用行动表明，自己应当处于讨论的中心，而不是边缘。