前 Anthropic 研究员为何在股权归属前辞职？他称 AI 竞赛正在“拿我们的生命下注”

考克森表示，他于 9 月 8 日辞去 Anthropic 的工作，是因为他得出的结论是：真正的问题不只是单项技术失败，而是头部 AI 实验室之间的竞争激励，正推动它们在尚不清楚如何控制的情况下，开发越来越自主、能够自我改进的系统。他选择在股权归属前约两个月离开、且在公司任职约四个月后辞职，也是在传达一个信号：对他而言，这种风险比由此放弃的经济收益更重要。25

他在 X 上具体警告了什么？

在一则传播量超过 1.15 亿次浏览的 X 长帖中，考克森称 Anthropic 和 OpenAI 都没有负责任地行事，正“径直奔向自我改进的超级智能，并拿我们的生命下注”。他的核心说法并不是现有聊天机器人即将自主引发人类灭绝，而是参与构建前沿模型的人真心认为，这类系统可能在网络入侵等任务上超越人类，从而打开灾难性失控的路径。38

考克森曾先后在 OpenAI 和 Anthropic 从事预训练研究——即让新模型吸收海量数据以获得基础能力的工作。他对 BBC 表示，AI 从业者正因技术进展的速度而“真切地感到害怕”。他认为，若不放缓当前进展速度，“在不久的将来我们所有人都有很大概率会死亡”；而任何有实际意义的放缓，都必须经过包括中国在内的国际协调，而不能是一个国家单方面让出技术竞赛。1

这是否证明“AI 灭绝风险迫在眉睫”？

并不证明。争论中的关键区别是：这些警告表达的是对未来能力跃迁和失控风险的担忧，而非关于“灭绝即将发生”的实证结论。

Anthropic 对齐研究员埃文·休宾格公开支持考克森的广泛担忧。他称当前模型风险较低，但个人估计未来十年 AI 杀死全人类的概率超过 10%。杰弗里·辛顿也曾认为，AI 接管或导致人类灭绝并非可忽略的风险。不过，这类数字是专家的主观判断，不是可测量、可验证的预测；现有报道也未显示研究界对概率评估存在共识。813

目前被引用的直接证据，主要与网络滥用及能力升级有关，而不是 AI 已经对人类发动自主攻击。报道提到，先进模型曾被用于或被测试用于网络行动，包括制造生物武器的尝试、与乌克兰有关的间谍活动，以及一宗被描述为 OpenAI 智能体入侵 Hugging Face 的事件。对于最后一类说法，其具体事实、是否获授权及披露情况，搜索结果所提供的一手资料不足以独立核实每一种表述，因此需要谨慎看待。263

Anthropic 提出的“放缓”意味着什么？

Anthropic 联合创始人兼 CEO 达里奥·阿莫代伊在《We Must Pace the Frontier》（《我们必须调控前沿进展速度》）一文中提出的并非全面停止 AI 研发。他主张放缓前沿能力的提升速度，引入独立的外部监测与评估，在民主国家之间建立共同安全标准，并最终推动涵盖中国的国际安排。12

OpenAI CEO 萨姆·奥尔特曼和 xAI CEO 埃隆·马斯克随后都公开支持这一大方向；马斯克写道：“Dario is right（达里奥是对的）。”113

Anthropic 的立场是，公司已经采取了行业中较强的安全措施，同时应让独立监督和共同标准覆盖整个行业，而不是只对某一家企业适用。2

为什么这番警告也招致质疑？

批评者认为，“生存风险”叙事可能同时具有保护既有巨头的效果。Hugging Face CEO 克莱芒·德朗格、英伟达 CEO 黄仁勋等人质疑，若对前沿模型实施严厉监管，可能抬高合规门槛、巩固资金最雄厚企业的优势，并使 Anthropic 和 OpenAI 形成受保护的双头垄断。3

时机也加剧了这种怀疑：报道称 Anthropic 当时正筹备规模可能与 SpaceX 创纪录 IPO 持平甚至更大的首次公开募股。4 不过，这一批评针对的是政策激励和市场结构，并不能据此证明考克森所表达的担忧并不真诚。

归根结底，考克森、休宾格、阿莫代伊、奥尔特曼与马斯克在一点上存在交集：能力持续提升的 AI 需要更强的协调与安全保障。但关于风险严重程度、可能出现的时间线，以及最有效的监管路径，仍存在深刻分歧；他们的警告也并不构成“人类灭绝迫在眉睫”的经验性证明。