答案已發布13 個來源
Bilal Chughtai 為何警告 AI 可能「殺死所有人」？
2026 年 7 月離開 Google DeepMind 的 Bilal Chughtai 表示，AI 有可能「殺死所有人」，而避免這種結果的時間窗口或許正在縮小。 他的說法呼應前 Anthropic 研究員 Jacob Coxon 與 Anthropic 對齊研究員 Evan Hubinger 的公開憂慮；Hubinger 所提未來十年逾 10% 的滅絕風險，明確是個人判斷。
發布者使用 GPT-5.6 Terra 編輯圖片由 GPT Image 2 生成
研究答案
重點整理
- 2026 年 7 月離開 Google DeepMind 的 Bilal Chughtai 表示，AI 有可能「殺死所有人」，而避免這種結果的時間窗口或許正在縮小。
- 他的說法呼應前 Anthropic 研究員 Jacob Coxon 與 Anthropic 對齊研究員 Evan Hubinger 的公開憂慮；Hubinger 所提未來十年逾 10% 的滅絕風險，明確是個人判斷。
- 爭點在於發展速度與治理：支持者要求在高風險模型推出前完成測試、獨立評估與政府介入機制；反對者則擔心放慢腳步會削弱美國的競爭優勢。
AI 提示詞
openai.comCreate a landscape editorial hero image for this Studio Global article: What did former Google DeepMind research engineer Bilal Chughtai, who co-authored AI research papers and left the company in July 2026, warn. Article summary: Chughtai’s warning was an existential-risk claim, not a prediction: after leaving DeepMind’s AGI-safety and alignment work, he said AI could “kill all humans” and that the opportunity to avert that outcome might be closi. Topic tags: general, general web, news. Style: premium digital editorial illustration, source-backed research mood, clean composition, high detail, modern web publication hero. Use reference image context only for broad subject, composition, and topical grounding; do not copy the exact image. Avoid: logos, brand marks, copyrighted characters, real person likenesses, fake screenshots, UI text, readable text, watermarks, charts with fake numbers
Bilal Chughtai 的發言是一項強烈的人類存續風險警告，並不是宣稱 AI 必然毀滅人類的預言。他離開 Google DeepMind 後表示，自己曾從事通用人工智慧（AGI）安全與「對齊」研究；所謂對齊，是讓 AI 的目標與行為能可靠地符合人類意圖。他警告，AI 有可能「殺死所有人」，而社會或許正逐漸失去避免這個結果的時間。
Chughtai 究竟在擔心什麼？
Chughtai 的核心憂慮是：AI 能力提升的速度，可能快過人類確保它安全、可控的能力。他關注的是技術發展的預設軌跡——各家公司在競爭壓力下爭相打造更強大的系統，但安全防護、對齊研究與公共監督尚未準備妥當。
他提出的解方不是單一公司自行踩煞車，而是集體協調。他主張，AI 的發展速度應調整到社會能承受的程度，並在風險演變成極端傷害之前先行處理。用他的話說，企業必須協調合作，而非繼續一場「瘋狂競賽」。
為何這項警告受到矚目？
Chughtai 離職之際，正逢多名 AI 研究人員與企業主管罕見地公開談論先進系統可能帶來的災難性風險。
前 Anthropic 研究員 Jacob Coxon 表示，他辭職是因為認為領先實驗室正不負責任地競逐可自我改進的超級智慧。他說，建構 AI 的人真心相信，這項技術可能在本世紀末前毀滅人類。
Anthropic 的對齊研究員 Evan Hubinger 也公開認同這項憂慮的基本方向，並稱他個人估計，AI 在未來十年導致人類滅絕的機率超過 10%。不過，他同時區分了長期風險與現況，表示目前的模型風險較低。
這些說法是個別研究人員的判斷，不是經驗數據得出的機率預測，也不代表科學界共識。較精確的重點是：一些最接近前沿模型研發的人認為，潛在代價嚴重到足以要求在能力再度躍進前採取更強的預防措施。
與「放慢前沿 AI」主張有何關係？
Chughtai 的建議與 Anthropic 執行長 Dario Amodei 的立場相近：最先進的 AI 系統應適度放慢推進速度，直到安全措施與外部監督有所改善。報導指出，OpenAI 執行長 Sam Altman 與 Elon Musk 都支持全產業減速的構想。
實務上，這套政策方向未必等於永久禁止 AI，而是要求能力最強的模型開發者遵守更高標準。Anthropic 的《先進 AI 架構》提出包括：
Anthropic 也以「負責任擴展政策」提出一種條件式做法：如果模型展現特定危險能力，那麼開發者在相應防護措施到位前，不應部署該模型，也不應訓練更強大的系統。 8
另一派觀點：嚴格監管可能削弱美國競爭力
這場分歧不只是技術問題，也是地緣政治問題。反對放慢的人認為，嚴格限制可能讓競爭對手國家或較不謹慎的企業取得優勢。
美國總統 Donald Trump 承認 AI 可能需要某些護欄，但淡化了最嚴重的警告，並表示他擔心美國會把領先地位讓給中國。 這正點出辯論的核心張力：放慢 AI 前沿，到底是必要的風險管理，還是美國難以承受的戰略讓步？
「AI 末日論」說對了什麼，又忽略了什麼？
「AI 末日論」（AI doomerism）常用來指認為先進 AI 可能造成滅絕級風險的觀點。但這個標籤可能掩蓋了一個實際的政策問題：當 AI 出現哪些危險能力證據時，應啟動更嚴格的測試、限制部署，或由政府介入？
Chughtai 的論點並未證明 AI 災難迫在眉睫。他真正主張的是，一旦安全工作出錯，後果可能不可逆；而市場競爭的誘因，未必能自動產生所需的謹慎。因此，他提倡以協調式治理因應：必要時放慢部署、強化評估，並建立明確的問責制度，趁系統尚未變得更難控制之前先做好準備。 1
Studio Global AI
繼續深入研究
這個頁面包含附來源佐證的答案，你可以在 Studio Global 內繼續追問。
大家也會問
「Bilal Chughtai 為何警告 AI 可能「殺死所有人」？」的簡短答案是什麼？
2026 年 7 月離開 Google DeepMind 的 Bilal Chughtai 表示，AI 有可能「殺死所有人」，而避免這種結果的時間窗口或許正在縮小。
最值得優先驗證的重點是什麼？
2026 年 7 月離開 Google DeepMind 的 Bilal Chughtai 表示，AI 有可能「殺死所有人」，而避免這種結果的時間窗口或許正在縮小。 他的說法呼應前 Anthropic 研究員 Jacob Coxon 與 Anthropic 對齊研究員 Evan Hubinger 的公開憂慮；Hubinger 所提未來十年逾 10% 的滅絕風險，明確是個人判斷。
接下來在實務上該怎麼做？
爭點在於發展速度與治理：支持者要求在高風險模型推出前完成測試、獨立評估與政府介入機制；反對者則擔心放慢腳步會削弱美國的競爭優勢。