这场风波最引人注目的地方,在于原本相互竞争的三位AI行业领袖罕见站到了一起:Anthropic首席执行官达里奥·阿莫代伊(Dario Amodei)主张有意识地放慢前沿模型能力的提升速度,OpenAI首席执行官萨姆·奥特曼(Sam Altman)和xAI创始人埃隆·马斯克(Elon Musk)都认同这一总体方向。
1
6
但需要划清边界:这并不意味着失控AI智能体已经“接管互联网”,也不代表各国或企业已达成具约束力的全球暂停协议。至于OpenAI是否正式推迟首次公开募股(IPO),现有报道所称是奥特曼提出的可能性或为安全让路的建议,而非已确认的正式决定。
6
7
阿莫代伊究竟在警告什么?
阿莫代伊警告,如果不放缓能力升级,未来6至12个月内,AI或许能够指挥一群智能体,进而接管大部分甚至整个互联网。这是一项面向未来的风险判断,而不是对已发生事件的描述。
1
他担忧的核心并非单个聊天机器人答错问题,而是大量具备执行能力的智能体在网络中协同、失控后,可能造成大规模网络安全破坏。报道援引其说法称,持续性僵尸网络式的攻击能力可能造成数千亿美元损失;如果模型能力继续提高而安全护栏没有跟上,风险规模还会扩大。
9
他的方案不是“停止研究”
阿莫代伊提出的并非彻底停止AI研究,而是让能力增长与安全措施同步推进:放慢最前沿模型的能力跃迁,为对齐、安全评估和治理争取时间。
1
6
具体方向包括让独立的外部评估者获得接近员工级别的长期系统访问权限,用以核验企业是否遵守安全措施、报告事故,并在训练期间评估模型对齐状况;同时推动行业共享安全做法和国际协调。
8
奥特曼支持“为前沿技术把握节奏”的主张,也认可独立评估者获得员工级访问权限的思路,并表示OpenAI会采取类似做法。
13 马斯克同样公开支持阿莫代伊,尽管xAI与Anthropic、OpenAI都处于激烈竞争之中。
6
Claude滥用报告为何让安全争论升温?
争论发生前不久,Anthropic披露,其威胁情报团队在2025年12月至2026年8月间发现并阻断了多类试图滥用Claude的行动,涉及网络攻击、影响力行动、监控、诈骗、生物滥用、常规武器研发和模型蒸馏等七类风险。
17
据报道,Anthropic称其阻止过可能支持生物武器研发的Claude使用尝试,也披露了疑似与俄罗斯有关、针对乌克兰的网络间谍活动。该公司还指控中国竞争者曾试图通过黑客手段提取或复制Claude相关能力。后者属于Anthropic的指控,不能视为已经由独立机构裁定的事实。
17
这些披露说明,AI安全讨论已不只停留在抽象的“超级智能”担忧,也延伸到网络攻击和生物研究等现实滥用场景。不过,阿莫代伊所说的“智能体群接管互联网”仍是风险预测,不能与已被阻断的滥用案例混为一谈。
1
17
特朗普的回应:不能因风险放弃竞争
美国总统唐纳德·特朗普对大幅放缓美国AI发展的主张并不买账。他淡化了相关警告,强调美国在AI上领先中国,并表示:“谁赢AI谁赢。”
10
这代表了另一种政策逻辑:AI首先是国家竞争力与战略优势问题,若美国单方面放慢,可能让竞争对手获得空间。特朗普的表态与主张优先维持技术领先、对重度监管或单边暂停保持怀疑的“加速派”立场一致。
10
“放慢一点”够不够?分歧仍在扩大
围绕AI治理,公开讨论大致形成了三种方向:
- 安全优先派认为企业自愿减速远远不够。美国参议员伯尼·桑德斯表示,“放慢”只是开始,呼吁特朗普与中国国家主席习近平在即将举行的峰会上协商条约,暂停先进AI开发并禁止人工超级智能。
5
- 竞争与国家安全取向担忧,严格监管或美国单边暂停会削弱对华竞争地位;特朗普的回应可归入这一阵营。
10
- 介于两者之间的治理路线则聚焦于企业承诺是否可信、国会是否应制定可执行的前沿AI规则,以及突然减速可能带来的竞争与资本市场风险。
因此,这次三位科技领袖的同调更像一次对行业方向的强烈示警,而不是政策落地:他们在“速度不能只由能力竞赛决定”这一点上达成共识,但如何监管、谁来执法、是否应国际暂停,仍没有统一答案。
现有材料不足以证实题述中迈克·约翰逊、哈基姆·杰弗里斯、大卫·萨克斯、亚历克斯·卡普、乔希·戈特海默、特定投资者分别持有的具体立场,也不足以确认任何已经商定的“特朗普—习近平AI议程”。除桑德斯提出的建议外,不能据此认定双方已同意推动暂停AI的条约。现有材料同样不足以核实前研究员雅各布·考克森辞职的具体细节。