答案已发布13 来源
Bilal Chughtai为何警告AI可能“杀死所有人”？
曾从事通用人工智能（AGI）安全与对齐研究的Bilal Chughtai在离开Google DeepMind后称，AI有可能“杀死所有人”，避免这一结局的时间可能正在减少。[18] 他的表态呼应了前Anthropic研究员Jacob Coxon和Anthropic对齐研究员Evan Hubinger的公开担忧；不过，“十年内超过10%灭绝风险”是Hubinger的个人判断，并非科学共识。[34][35][36] 争议的核心是研发速度与治理方式：一方主张先测试、独立评估并保留干预危险部署的权力，另一方则担忧放慢美国AI发展会削弱其对华竞争优势。[1][2][59]
发布者使用 GPT-5.6 Terra 编辑图片由 GPT Image 2 生成
研究答案
要点
- 曾从事通用人工智能（AGI）安全与对齐研究的Bilal Chughtai在离开Google DeepMind后称，AI有可能“杀死所有人”，避免这一结局的时间可能正在减少。[18]
- 他的表态呼应了前Anthropic研究员Jacob Coxon和Anthropic对齐研究员Evan Hubinger的公开担忧；不过，“十年内超过10%灭绝风险”是Hubinger的个人判断，并非科学共识。[34][35][36]
- 争议的核心是研发速度与治理方式：一方主张先测试、独立评估并保留干预危险部署的权力，另一方则担忧放慢美国AI发展会削弱其对华竞争优势。[1][2][59]
AI 提示
openai.comCreate a landscape editorial hero image for this Studio Global article: What did former Google DeepMind research engineer Bilal Chughtai, who co-authored AI research papers and left the company in July 2026, warn. Article summary: Chughtai’s warning was an existential-risk claim, not a prediction: after leaving DeepMind’s AGI-safety and alignment work, he said AI could “kill all humans” and that the opportunity to avert that outcome might be closi. Topic tags: general, general web, news. Style: premium digital editorial illustration, source-backed research mood, clean composition, high detail, modern web publication hero. Use reference image context only for broad subject, composition, and topical grounding; do not copy the exact image. Avoid: logos, brand marks, copyrighted characters, real person likenesses, fake screenshots, UI text, readable text, watermarks, charts with fake numbers
Bilal Chughtai的说法是一项严厉的生存风险警告，并不是断言AI必然毁灭人类。他离开Google DeepMind后表示，自己曾从事通用人工智能（AGI）安全与“对齐”研究；所谓对齐，指让AI系统的目标和行为能可靠地符合人的意图与利益。他认为，AI有可能“杀死所有人”，而人类或许正在失去避免这一结果的时间窗口。
他究竟在担心什么？
Chughtai担忧的重点，是AI能力提升的速度可能快过人类建立可靠安全机制和控制能力的速度。他所说的风险来自技术发展的“默认轨迹”：公司在竞争压力下不断追逐更强模型，却未必能在充分的安全防护、对齐研究和公共监督到位前踩下刹车。
他的解决思路不是让某一家企业单独放缓，而是要求各方协调行动。他呼吁避免AI公司之间的“疯狂竞赛”，将AI发展节奏控制在社会能够承受的范围内，并在风险演变成极端伤害之前加以处理。
为什么这番话引发关注？
Chughtai离职前后，多位身处前沿模型开发领域的研究人员和企业负责人罕见地公开谈论高级AI可能带来的灾难性风险。
前Anthropic研究员Jacob Coxon表示，他辞职是因为认为头部实验室正在不负责任地竞逐可自我改进的超级智能。他称，参与构建AI的人“真诚地相信”，它可能在本十年结束前毁灭人类。
Anthropic对齐研究员Evan Hubinger公开认同这一核心担忧，并称自己个人估计：未来十年AI导致人类灭绝的概率超过10%。同时，他明确区分了远期担忧和当前模型的风险，称现有模型的风险较低。
这些说法都是个别研究人员的判断，不是基于实证得出的概率预测，也不代表科学界已有共识。更准确的理解是：一些接近前沿模型研发的人认为，潜在后果严重到足以要求在能力继续跃升前采取更强的预防措施。
与“放慢前沿AI”主张有什么关系？
Chughtai的主张与Anthropic首席执行官Dario Amodei的立场存在交集：最先进的AI系统应当适度放缓推进，以便安全措施和外部监督跟上。报道显示，OpenAI首席执行官Sam Altman与埃隆·马斯克也支持行业层面的协调减速。
这并不一定意味着永久禁止AI研发。Anthropic提出的《高级AI框架》针对最强模型开发者提出了一套要求，包括：
Anthropic的“负责任扩展政策”则采取“如果—那么”的机制：如果模型展现出特定危险能力，那么在相应防护措施建立前，开发者不应部署该模型，也不应训练更强的后续系统。8
另一种观点：监管可能损害美国竞争力
分歧不只是技术问题，也牵涉地缘政治。反对放缓的人认为，过于严格的限制可能让竞争对手国家或更不谨慎的公司取得优势。
美国总统唐纳德·特朗普承认AI可能需要一些“护栏”，但淡化了最严重的风险说法，并表示担忧美国会把领先地位让给中国。这正是争论的核心张力：放慢AI前沿究竟是必要的风险管理，还是难以承受的战略让步？
至于Google的回应，路透社报道称，该公司在非工作时间未回应置评请求。
“AI末日论”说对了什么，又遗漏了什么？
“AI末日论”（AI doomerism）通常用来指高级AI可能造成灭绝级风险的观点。这个标签容易把讨论简化为“相信或不相信末日”，却掩盖了更具体的政策问题：当AI表现出哪些危险能力时，应触发额外测试、限制部署，或由监管部门介入？
Chughtai的论点并未证明AI灾难迫在眉睫。他真正强调的是：如果安全工作失败，后果可能不可逆；而企业竞争带来的激励，也未必会自然产生所需的谨慎。因此，他提出的方向是协调治理——必要时放慢部署节奏、强化评估，并明确开发者的责任边界，趁系统尚未变得更难控制之前采取行动。1
Studio Global AI
继续你的研究
此页面包含一个有来源支持的答案，您可以在 Studio Global 内继续。
人们还问
“Bilal Chughtai为何警告AI可能“杀死所有人”？”的简短答案是什么？
曾从事通用人工智能（AGI）安全与对齐研究的Bilal Chughtai在离开Google DeepMind后称，AI有可能“杀死所有人”，避免这一结局的时间可能正在减少。[18]
首先要验证的关键点是什么？
曾从事通用人工智能（AGI）安全与对齐研究的Bilal Chughtai在离开Google DeepMind后称，AI有可能“杀死所有人”，避免这一结局的时间可能正在减少。[18] 他的表态呼应了前Anthropic研究员Jacob Coxon和Anthropic对齐研究员Evan Hubinger的公开担忧；不过，“十年内超过10%灭绝风险”是Hubinger的个人判断，并非科学共识。[34][35][36]
接下来在实践中我应该做什么？
争议的核心是研发速度与治理方式：一方主张先测试、独立评估并保留干预危险部署的权力，另一方则担忧放慢美国AI发展会削弱其对华竞争优势。[1][2][59]