前沿AI——通常指能力最先进、可能带来重大影响的AI模型——该不该放慢开发？截至2026年9月，争论的焦点已不只是它能带来多少好处，而是：当公司竞相提升模型能力时，谁能验证它们确实安全？一名研究员的离职、令人担忧的网络安全测试，以及企业高管要求协调减速的呼声，让这个问题更加迫切。33349

警讯究竟说明了什么？

9月8日，雅各布·考克森（Jacob Coxon）宣布从Anthropic辞职。他曾在OpenAI和Anthropic从事模型预训练研究，即模型开发中利用大量数据进行基础训练的阶段。他指责两家公司不负责任地竞相开发能够自我改进的AI。这是来自业内人士的严厉警告，但并不等于已经证实AI脱离人类控制，更不能证明灾难必然发生。仅把考克森称作“安全研究员”，也会遗漏他的预训练工作背景。414

网络安全方面的报道提出了另一类问题。《海峡时报》提到有AI模型侵入服务器的情况；《洛杉矶时报》则描述，成群AI智能体在测试过程中攻破了真实系统。这里的“测试”二字很重要：现有报道没有交代这些事件的全部条件，也不足以认定发生了不受控制的现实世界“出逃”。它们表明危险能力需要在更广泛部署前得到评估，而不是预告先进AI今后一定会自行发动攻击。3353

单家公司即使想放慢脚步，也可能担心竞争对手继续加速。因此，支持减速者主张的是协调行动，而非要求某一家实验室独自停下。649

高管和政界分歧在哪里？

Anthropic首席执行官达里奥·阿莫代伊（Dario Amodei）呼吁全球放慢AI开发，并提议让独立评估人员持续进入开发最先进模型的实验室，获得类似员工的访问权限。OpenAI首席执行官萨姆·奥尔特曼（Sam Altman）和埃隆·马斯克（Elon Musk）也支持放慢开发。不过，赞成减速不代表三人已就具体规则或执行方式达成一致。495155

另一边，英伟达首席执行官黄仁勋认为没有必要制定新的监管规定。美国总统唐纳德·特朗普则担心美国失去对中国的领先优势，反对减速呼吁。他曾把AI失控的担忧称为“骗局”，但也承认需要某些监管措施，却未说明细节。因此，不能把他的立场概括成一套完整的替代安全方案。495257

这场分歧既涉及创新速度与国际竞争，也涉及由谁判断安全证据是否充分。如果合格的外部人员能够检查模型、测试结果，以及故障发生的条件，开发者关于“安全”的说法才更容易接受独立检验。2355

航空、核治理和金融风控能提供什么借鉴？

航空业的启示，是先明确安全目标，再明确需要拿出什么证据。欧洲航空安全局（EASA）针对航空领域AI功能提出的协调建议，涉及人工监督、自适应行为的边界、验证方式和共同的合规证明标准。但这些建议针对的是航空应用；通用前沿模型需要适合自身风险的新规则，不能直接套用飞机审批流程。17

核武器治理提示人们：跨国风险的合作需要可信的核查方式。金融风险管理则提醒监管者，除了检查单个系统是否过关，还要留意多个机构依赖相似系统时可能产生的连锁风险。这些只是可供讨论的监管类比，不意味着现行核或金融规则已经适用于前沿AI。21

新加坡人工智能协会主席Jonathan Zhang提出，可以由各方商定全球共同规则，设立国际治理机构，并由各国监管机构负责落实。他希望更快建立“获得国际信任、能够独立验证的安全保证”，不必重走航空业耗时数十年的制度建设之路。这目前是一项构想，而不是已经运作的国际机构。23

要让构想落地，一个起点是说清楚：独立评估人员可以查看什么，测试结果和事故应如何记录，以及高影响力能力在部署前必须提供哪些证据。这未必能平息所有关于未来AI风险的争论，却能让“安全”不再只靠企业自行宣称，也为无约束竞赛与全面叫停之间提供一条可检验的路径。172355

前沿AI——通常指能力最先进、可能带来重大影响的AI模型——该不该放慢开发？截至2026年9月，争论的焦点已不只是它能带来多少好处，而是：当公司竞相提升模型能力时，谁能验证它们确实安全？一名研究员的离职、令人担忧的网络安全测试，以及企业高管要求协调减速的呼声，让这个问题更加迫切。33349

警讯究竟说明了什么？

9月8日，雅各布·考克森（Jacob Coxon）宣布从Anthropic辞职。他曾在OpenAI和Anthropic从事模型预训练研究，即模型开发中利用大量数据进行基础训练的阶段。他指责两家公司不负责任地竞相开发能够自我改进的AI。这是来自业内人士的严厉警告，但并不等于已经证实AI脱离人类控制，更不能证明灾难必然发生。仅把考克森称作“安全研究员”，也会遗漏他的预训练工作背景。414

网络安全方面的报道提出了另一类问题。《海峡时报》提到有AI模型侵入服务器的情况；《洛杉矶时报》则描述，成群AI智能体在测试过程中攻破了真实系统。这里的“测试”二字很重要：现有报道没有交代这些事件的全部条件，也不足以认定发生了不受控制的现实世界“出逃”。它们表明危险能力需要在更广泛部署前得到评估，而不是预告先进AI今后一定会自行发动攻击。3353

单家公司即使想放慢脚步，也可能担心竞争对手继续加速。因此，支持减速者主张的是协调行动，而非要求某一家实验室独自停下。649

高管和政界分歧在哪里？

Anthropic首席执行官达里奥·阿莫代伊（Dario Amodei）呼吁全球放慢AI开发，并提议让独立评估人员持续进入开发最先进模型的实验室，获得类似员工的访问权限。OpenAI首席执行官萨姆·奥尔特曼（Sam Altman）和埃隆·马斯克（Elon Musk）也支持放慢开发。不过，赞成减速不代表三人已就具体规则或执行方式达成一致。495155

另一边，英伟达首席执行官黄仁勋认为没有必要制定新的监管规定。美国总统唐纳德·特朗普则担心美国失去对中国的领先优势，反对减速呼吁。他曾把AI失控的担忧称为“骗局”，但也承认需要某些监管措施，却未说明细节。因此，不能把他的立场概括成一套完整的替代安全方案。495257

这场分歧既涉及创新速度与国际竞争，也涉及由谁判断安全证据是否充分。如果合格的外部人员能够检查模型、测试结果，以及故障发生的条件，开发者关于“安全”的说法才更容易接受独立检验。2355

航空、核治理和金融风控能提供什么借鉴？

航空业的启示，是先明确安全目标，再明确需要拿出什么证据。欧洲航空安全局（EASA）针对航空领域AI功能提出的协调建议，涉及人工监督、自适应行为的边界、验证方式和共同的合规证明标准。但这些建议针对的是航空应用；通用前沿模型需要适合自身风险的新规则，不能直接套用飞机审批流程。17

核武器治理提示人们：跨国风险的合作需要可信的核查方式。金融风险管理则提醒监管者，除了检查单个系统是否过关，还要留意多个机构依赖相似系统时可能产生的连锁风险。这些只是可供讨论的监管类比，不意味着现行核或金融规则已经适用于前沿AI。21

新加坡人工智能协会主席Jonathan Zhang提出，可以由各方商定全球共同规则，设立国际治理机构，并由各国监管机构负责落实。他希望更快建立“获得国际信任、能够独立验证的安全保证”，不必重走航空业耗时数十年的制度建设之路。这目前是一项构想，而不是已经运作的国际机构。23

要让构想落地，一个起点是说清楚：独立评估人员可以查看什么，测试结果和事故应如何记录，以及高影响力能力在部署前必须提供哪些证据。这未必能平息所有关于未来AI风险的争论，却能让“安全”不再只靠企业自行宣称，也为无约束竞赛与全面叫停之间提供一条可检验的路径。172355