Alex Turner曾任Google DeepMind研究科学家。他提出的观点比泛泛呼吁AI“慢一点”更尖锐：最前沿系统的能力提升，可能快过企业、政府，甚至处于竞争关系中的大国所能可靠管理的速度。他认为，追踪训练所用的算力，可能是建立真正可执行监管的一条路径；而在AI竞赛中，仅靠自愿克制未必足够。 17

他为何离开DeepMind

Turner曾在DeepMind的可扩展对齐团队工作，并于2026年6月离职。他表示，Google与美国国防部五角大楼达成一项允许其AI用于机密工作的协议后，他选择离开；他的异议在于，该安排没有针对自主武器和大规模监控设置具有约束力的限制。 1819

这也将军事用途治理与他对强大AI的更广泛担忧联系起来：当商业利益与战略压力上升时，正式的安全原则只有能够被执行，才有意义。Turner在DeepMind从事的是“对齐”工作，即设法确保未来能力极强的系统，其行为仍与人类福祉相容。 19

警告背后的“失控”逻辑

Turner并不是断言灾难必然发生，而是在提出一种风险判断：如果AI系统能够协助AI研究、自动化自身开发的部分环节，或达到人类无法有效检查的能力水平，人类机构可能来不及评估和遏制它们。

关键风险并非抽象意义上的“更聪明”，而是能力、自治性与缺乏可靠控制的叠加。一个能够追求复杂目标、获得工具访问权限并改进后继系统的AI，可能形成反馈循环：能力增长速度超过人类评估与治理的速度。

因此，Turner主张企业不应允许AI自我改进到不可控的智能水平。这是在警示一种可能的失效路径，并非已有证据证明此类系统已经存在，或人类灭绝必将发生。 1719

为什么“算力追踪”是关键

这里的“算力”，指训练先进模型所需的专用芯片、数据中心和电力等资源。它是前沿AI开发中稀缺且具有实体属性的投入。Turner认为，追踪算力可成为可执行监管的基础。 17

在实践中，算力监测机制可让政府和独立机构看到异常大规模的训练活动，为许可或审查设定门槛，并提高开发者在不被察觉的情况下突破既定能力边界的难度。它本身不能解决“对齐”问题，但其治理价值在于：模型部署前，监管者有了可以审计的具体对象。

这正是争论的分界线。自愿承诺能够表达意愿；而监测与具有约束力的规则，旨在应对企业存在抢跑动机时的情形。

阿莫代伊的方案：控速，而非叫停

Anthropic首席执行官达里奥·阿莫代伊提出“为前沿控速”（pacing the frontier）：放慢AI能力提升的速度，让对齐研究、安全措施与外部评估能够跟上。他明确表示，这不等于停止模型训练或技术进步。 16

该方案包括三部分：

1. 嵌入式独立评估人员。 前沿AI实验室应让外部评估者持续获得近似员工级别的访问权限，以核验安全实践、评估对齐情况并报告事件。Anthropic已承诺采取这一步。 16
2. 民主国家与领先实验室之间协调。 参与者共同推动安全标准，并限制未经审查的能力增长。 116
3. 在可能的情况下推进国际协调，包括与中国协调。 目标是避免出现危险竞赛：一国的克制仅仅让研发转移至别处。 18

这一框架接受前沿AI继续发展，但要求进展更慢、也更可验证。相比之下，Turner更强调防止不受控制的自我改进，并对支撑前沿研发的投入要素——算力——实施监管。

奥尔特曼、马斯克和哈萨比斯的立场

阿莫代伊的提议获得了多位竞争性AI机构领导人的罕见公开支持。

• 萨姆·奥尔特曼表示，OpenAI将采用让独立评估者获得类似员工访问权限的做法，并称公司欢迎针对前沿AI实验室的安全要求。 212
• 埃隆·马斯克公开支持阿莫代伊的方向，称“Dario is right（达里奥是对的）”；不过，现有报道较少说明他支持的具体监管蓝图。 47
• 德米斯·哈萨比斯表示，阿莫代伊的文章指向了正确道路，意味着DeepMind负责人支持强化安全措施、放慢前沿能力推进的大方向。 27

这种支持不代表各方已就每一项门槛、执行机制或地缘政治取舍达成一致。但它表明，讨论重点正从“前沿AI安全是否需要被重视”，转向“企业能否一边继续扩大能力，一边让安全工作追上来”。

中国既是反对理由，也是合作理由

反对放缓的常见理由来自地缘政治：如果美国企业放慢脚步，中国可能不会。路透社将更广泛的分歧概括为“协调克制”与更偏市场驱动的安全保障之间的对立，而对华竞争正处于这一争论的核心。 1

阿莫代伊的回应是分阶段协调：先在民主国家及其领先实验室之间开展协调，再逐步扩大范围。但全球协议是这项计划中最不确定的一环。核查难度、战略互疑和不同国家的优先事项，都使具有约束力的安排难以达成。

Turner对算力的关注，也解释了为何支持者希望拥有不只是请求各方善意的机制。若政府能够识别并检查最大规模训练所使用的资源，或许就能获得比竞赛压力下的承诺更具执行力的抓手。 17

真正的分歧：举证责任该由谁承担？

目前业界形成的共识仍很有限。阿莫代伊、奥尔特曼、马斯克和哈萨比斯都支持某种形式的“控速”与更严格的评估。 127 但核心争议尚未解决：

• 企业是否应在安全实践同步完善的同时，继续推进前沿能力？
• 又或者，某些路径——尤其是可能导致不受约束自我改进的系统——应在出现可信控制方法前被禁止？
• 外部评估者能否拥有足够独立性和信息，真正挑战被审查的实验室？
• 国际协调能否避免安全规则反而成为遵守规则一方的竞争劣势？

Turner的核心提醒是：这不只是企业是否足够谨慎的问题。若人们真正担心的是失去控制，回应就必须可审计、可执行。阿莫代伊的“控速”计划向外部监督迈出了重要一步；Turner的警告则说明，为何批评者认为最终检验在于——监督是否真的能阻止危险的能力竞赛。 1617

Alex Turner曾任Google DeepMind研究科学家。他提出的观点比泛泛呼吁AI“慢一点”更尖锐：最前沿系统的能力提升，可能快过企业、政府，甚至处于竞争关系中的大国所能可靠管理的速度。他认为，追踪训练所用的算力，可能是建立真正可执行监管的一条路径；而在AI竞赛中，仅靠自愿克制未必足够。 17

他为何离开DeepMind

Turner曾在DeepMind的可扩展对齐团队工作，并于2026年6月离职。他表示，Google与美国国防部五角大楼达成一项允许其AI用于机密工作的协议后，他选择离开；他的异议在于，该安排没有针对自主武器和大规模监控设置具有约束力的限制。 1819

这也将军事用途治理与他对强大AI的更广泛担忧联系起来：当商业利益与战略压力上升时，正式的安全原则只有能够被执行，才有意义。Turner在DeepMind从事的是“对齐”工作，即设法确保未来能力极强的系统，其行为仍与人类福祉相容。 19

警告背后的“失控”逻辑

Turner并不是断言灾难必然发生，而是在提出一种风险判断：如果AI系统能够协助AI研究、自动化自身开发的部分环节，或达到人类无法有效检查的能力水平，人类机构可能来不及评估和遏制它们。

关键风险并非抽象意义上的“更聪明”，而是能力、自治性与缺乏可靠控制的叠加。一个能够追求复杂目标、获得工具访问权限并改进后继系统的AI，可能形成反馈循环：能力增长速度超过人类评估与治理的速度。

因此，Turner主张企业不应允许AI自我改进到不可控的智能水平。这是在警示一种可能的失效路径，并非已有证据证明此类系统已经存在，或人类灭绝必将发生。 1719

为什么“算力追踪”是关键

这里的“算力”，指训练先进模型所需的专用芯片、数据中心和电力等资源。它是前沿AI开发中稀缺且具有实体属性的投入。Turner认为，追踪算力可成为可执行监管的基础。 17

在实践中，算力监测机制可让政府和独立机构看到异常大规模的训练活动，为许可或审查设定门槛，并提高开发者在不被察觉的情况下突破既定能力边界的难度。它本身不能解决“对齐”问题，但其治理价值在于：模型部署前，监管者有了可以审计的具体对象。

这正是争论的分界线。自愿承诺能够表达意愿；而监测与具有约束力的规则，旨在应对企业存在抢跑动机时的情形。

阿莫代伊的方案：控速，而非叫停

Anthropic首席执行官达里奥·阿莫代伊提出“为前沿控速”（pacing the frontier）：放慢AI能力提升的速度，让对齐研究、安全措施与外部评估能够跟上。他明确表示，这不等于停止模型训练或技术进步。 16

该方案包括三部分：

1. 嵌入式独立评估人员。 前沿AI实验室应让外部评估者持续获得近似员工级别的访问权限，以核验安全实践、评估对齐情况并报告事件。Anthropic已承诺采取这一步。 16
2. 民主国家与领先实验室之间协调。 参与者共同推动安全标准，并限制未经审查的能力增长。 116
3. 在可能的情况下推进国际协调，包括与中国协调。 目标是避免出现危险竞赛：一国的克制仅仅让研发转移至别处。 18

这一框架接受前沿AI继续发展，但要求进展更慢、也更可验证。相比之下，Turner更强调防止不受控制的自我改进，并对支撑前沿研发的投入要素——算力——实施监管。

奥尔特曼、马斯克和哈萨比斯的立场

阿莫代伊的提议获得了多位竞争性AI机构领导人的罕见公开支持。

• 萨姆·奥尔特曼表示，OpenAI将采用让独立评估者获得类似员工访问权限的做法，并称公司欢迎针对前沿AI实验室的安全要求。 212
• 埃隆·马斯克公开支持阿莫代伊的方向，称“Dario is right（达里奥是对的）”；不过，现有报道较少说明他支持的具体监管蓝图。 47
• 德米斯·哈萨比斯表示，阿莫代伊的文章指向了正确道路，意味着DeepMind负责人支持强化安全措施、放慢前沿能力推进的大方向。 27

这种支持不代表各方已就每一项门槛、执行机制或地缘政治取舍达成一致。但它表明，讨论重点正从“前沿AI安全是否需要被重视”，转向“企业能否一边继续扩大能力，一边让安全工作追上来”。

中国既是反对理由，也是合作理由

反对放缓的常见理由来自地缘政治：如果美国企业放慢脚步，中国可能不会。路透社将更广泛的分歧概括为“协调克制”与更偏市场驱动的安全保障之间的对立，而对华竞争正处于这一争论的核心。 1

阿莫代伊的回应是分阶段协调：先在民主国家及其领先实验室之间开展协调，再逐步扩大范围。但全球协议是这项计划中最不确定的一环。核查难度、战略互疑和不同国家的优先事项，都使具有约束力的安排难以达成。

Turner对算力的关注，也解释了为何支持者希望拥有不只是请求各方善意的机制。若政府能够识别并检查最大规模训练所使用的资源，或许就能获得比竞赛压力下的承诺更具执行力的抓手。 17

真正的分歧：举证责任该由谁承担？

目前业界形成的共识仍很有限。阿莫代伊、奥尔特曼、马斯克和哈萨比斯都支持某种形式的“控速”与更严格的评估。 127 但核心争议尚未解决：

• 企业是否应在安全实践同步完善的同时，继续推进前沿能力？
• 又或者，某些路径——尤其是可能导致不受约束自我改进的系统——应在出现可信控制方法前被禁止？
• 外部评估者能否拥有足够独立性和信息，真正挑战被审查的实验室？
• 国际协调能否避免安全规则反而成为遵守规则一方的竞争劣势？

Turner的核心提醒是：这不只是企业是否足够谨慎的问题。若人们真正担心的是失去控制，回应就必须可审计、可执行。阿莫代伊的“控速”计划向外部监督迈出了重要一步；Turner的警告则说明，为何批评者认为最终检验在于——监督是否真的能阻止危险的能力竞赛。 1617