答案已發布13 來源
前 DeepMind 研究員 Bilal Chughtai 警告 AI 或「殺死我哋所有人」
Bilal Chughtai 離開 Google DeepMind 後表示，AI 有可能「殺死我哋所有人」，而避免呢個結果嘅時間可能愈來愈少。[18] 佢主張公司及政府協調，將 AI 發展速度控制喺社會可承受範圍，先處理新風險，再避免出現極端傷害。[63] 爭議核心係：前沿 AI 應否因安全測試、獨立評估及監管未追得上而減速，抑或減速會削弱美國對中國嘅競爭優勢。[1][59]
發布者使用 GPT-5.6 Terra 編輯圖片由 GPT Image 2 生成
研究答案
重點
- Bilal Chughtai 離開 Google DeepMind 後表示，AI 有可能「殺死我哋所有人」，而避免呢個結果嘅時間可能愈來愈少。[18]
- 佢主張公司及政府協調，將 AI 發展速度控制喺社會可承受範圍，先處理新風險，再避免出現極端傷害。[63]
- 爭議核心係：前沿 AI 應否因安全測試、獨立評估及監管未追得上而減速，抑或減速會削弱美國對中國嘅競爭優勢。[1][59]
AI 提示
openai.comCreate a landscape editorial hero image for this Studio Global article: What did former Google DeepMind research engineer Bilal Chughtai, who co-authored AI research papers and left the company in July 2026, warn. Article summary: Chughtai’s warning was an existential-risk claim, not a prediction: after leaving DeepMind’s AGI-safety and alignment work, he said AI could “kill all humans” and that the opportunity to avert that outcome might be closi. Topic tags: general, general web, news. Style: premium digital editorial illustration, source-backed research mood, clean composition, high detail, modern web publication hero. Use reference image context only for broad subject, composition, and topical grounding; do not copy the exact image. Avoid: logos, brand marks, copyrighted characters, real person likenesses, fake screenshots, UI text, readable text, watermarks, charts with fake numbers
Bilal Chughtai 嘅說法係一個嚴厲嘅存在性風險警告，唔係聲稱 AI 必然會毀滅人類。佢離開 Google DeepMind 後表示，自己曾做通用人工智能（AGI）安全及「對齊」（alignment）研究；佢相信 AI 有可能「殺死我哋所有人」，而人類避免呢個結果嘅時間可能所剩無幾。
所謂「對齊」，簡單講即係確保 AI 的目標、行為同人類意圖及利益一致，並且可以被可靠控制。
佢真正擔心嘅係乜？
Chughtai 關注嘅唔係某一個現有聊天機械人即將失控，而係技術發展嘅「預設軌跡」：各間公司喺競爭壓力下不斷追求更強模型，但安全措施、對齊研究同公共監督未必跟得上。佢認為，能力愈強嘅系統一旦未能可靠控制，後果可以極端嚴重。
佢提出嘅解法唔係由單一公司自行煞車，而係集體協調。佢呼籲避免 AI 公司之間嘅「瘋狂競賽」，將 AI 發展節奏調整到社會可以應付嘅程度，令新出現嘅風險可以喺造成重大傷害前被處理。
點解呢番說話特別受注目？
Chughtai 離職前後，幾名身處前沿 AI 開發圈嘅研究員亦罕有地公開談及災難性風險。
前 Anthropic 研究員 Jacob Coxon 表示，佢辭職係因為認為主要實驗室正不負責任地競逐可自我改進嘅超級智能；佢稱，建造 AI 嘅人真心相信，AI 可能喺今個十年結束前毀滅人類。
Anthropic 對齊研究主管 Evan Hubinger 則公開認同相關憂慮，並表示，按佢個人判斷，AI 喺未來十年導致人類滅絕嘅機會高過 10%。不過，佢亦區分咗長遠風險同目前模型：佢形容現有模型風險偏低。
要留意，以上係個別研究員嘅判斷，唔係經實證得出嘅機率預測，亦唔代表科學界已有共識。較窄而重要嘅訊息係：部分接近前沿模型研發嘅人，認為潛在下行後果大到值得喺能力再進一步之前，加強預防措施。
「放慢前沿 AI」實際上想做乜？
Chughtai 嘅主張同 Anthropic 行政總裁 Dario Amodei 提出嘅方向有重疊：最先進嘅 AI 系統應按安全措施及外部監督嘅進度調節發展速度。報道指，OpenAI 行政總裁 Sam Altman 同 Elon Musk 都支持業界協調減速。
呢個取向唔一定等於永久禁止 AI。以 Anthropic 的《Advanced AI Framework》為例，針對能力最強嘅模型開發商，建議包括：
Anthropic 的「負責任擴展政策」亦採用「如果——就要」嘅做法：如果模型表現出指定危險能力，就不應喺適當保護措施落實前部署該模型，或者訓練能力更強嘅後繼系統。8
反對減速嘅理由：會唔會輸咗美中 AI 競賽？
反對者認為，問題唔只係技術安全，亦關乎地緣政治。佢哋擔心嚴格限制會令較少顧忌嘅公司或競爭國家取得優勢。
美國總統 Donald Trump 表示，AI 可能需要一啲護欄，但淡化最嚴重嘅憂慮，並稱擔心美國會將領先地位讓畀中國。 呢個正好點出辯論嘅拉鋸：放慢前沿 AI，到底係必要嘅風險管理，定係美國承受唔起嘅戰略讓步？
「AI 末日論」講中咗乜，又未證明乜？
「AI doomerism」常被用嚟標籤相信先進 AI 可帶來滅絕級風險嘅觀點。不過，呢個標籤容易掩蓋一個實際政策問題：一個 AI 系統要顯示到咩程度嘅危險能力，先應觸發更嚴格測試、限制部署，甚至政府介入？
Chughtai 並冇證明 AI 災難迫在眉睫。佢嘅論點係，一旦安全做錯，代價可能無法逆轉；但企業之間嘅競爭誘因，未必自然會產生所需嘅謹慎。因此，佢主張喺系統變得更難控制之前，透過協調治理、必要時放慢部署、加強評估同清楚問責去降低風險。1
Studio Global AI
繼續你的研究
此頁麵包含一個有來源支援的答案，您可以在 Studio Global 內繼續。
人們還問
「前 DeepMind 研究員 Bilal Chughtai 警告 AI 或「殺死我哋所有人」」的簡短答案是什麼？
Bilal Chughtai 離開 Google DeepMind 後表示，AI 有可能「殺死我哋所有人」，而避免呢個結果嘅時間可能愈來愈少。[18]
首先要驗證的關鍵點是什麼？
Bilal Chughtai 離開 Google DeepMind 後表示，AI 有可能「殺死我哋所有人」，而避免呢個結果嘅時間可能愈來愈少。[18] 佢主張公司及政府協調，將 AI 發展速度控制喺社會可承受範圍，先處理新風險，再避免出現極端傷害。[63]
接下來在實務上我該做什麼？
爭議核心係：前沿 AI 應否因安全測試、獨立評估及監管未追得上而減速，抑或減速會削弱美國對中國嘅競爭優勢。[1][59]