Jacob Coxon 離開 Anthropic：他所警告的不是聊天機器人，而是失控的 AI 競賽

Coxon 表示，他在 9 月 8 日辭去 Anthropic 職務，並不是因為某一次單獨的技術失誤，而是因為他認定：頂尖 AI 實驗室的競爭誘因，正在推動業界於「尚未知道如何控制」的情況下，開發愈來愈自主、甚至可能自我改進的系統。他選擇在股權即將歸屬前離開，也是在傳達一項訊號：對他而言，這項風險比相應的財務代價更重要。25

他在 X 貼文中到底指控了什麼？

這名 27 歲、曾先後從事 OpenAI 與 Anthropic 模型「預訓練」研究的研究員，在 X 的長文中稱，兩家公司都沒有負責任地行事，正「直奔可自我改進的超級智慧，拿我們的生命下注」。他的核心論點是，建造前沿模型的人士真誠相信，未來系統可能在網路入侵等任務上達到超人水準，進而開啟人類失去控制的災難性路徑。38

這不等於 Coxon 聲稱今天的聊天機器人已能自行造成滅絕事件。他所提出的是一項關於能力快速升級與控制落後的風險判斷：若系統能更有效地駭入網路、在各專業領域快速運作，並獲得資源與現實影響力，人類可能沒有足夠時間建立可靠的防護與約束機制。38

他的貼文瀏覽量超過 1.15 億次，使原本多在 AI 安全圈討論的問題進入大眾視野：究竟是企業個別的安全措施不足，還是整個「搶先做出最強模型」的競賽，本身就會鼓勵各方承擔過高風險？3

為何他主張必須「減速」？

Coxon 向 BBC 表示，AI 從業人員對進展速度「確實感到害怕」。他認為，若不放慢當前進展速度，「在不久的將來，我們全都可能死亡」的機率相當高；但他也說，有意義的減速不能只是某一國單方面退出競爭，而需要國際協調，且應包括中國。1

Anthropic 的對齊研究員 Evan Hubinger 公開支持這項廣泛憂慮。他表示，目前模型的風險仍低，但估計未來 10 年 AI 導致全人類死亡的機率超過 10%。Geoffrey Hinton 也曾主張，AI 接管或導致人類滅絕並非可忽略的風險。813

不過，這類數字屬於專家主觀判斷，並不是能被驗證的精確預報；現有報導也不足以顯示研究社群對機率、時間表或最有效政策已有共識。813

近期被援引的證據：網攻與能力升級，而非「AI 已攻擊人類」

這波辯論中被提出的近期證據，主要涉及網路濫用與模型能力擴張，而不是自主 AI 對人類發動攻擊。報導提及先進模型曾被用於或測試於網路行動，包括製作生物武器的嘗試、與烏克蘭相關的間諜活動，以及一宗被描述為 OpenAI 代理程式入侵 Hugging Face 的事件。263

但對最後一項指控尤其應保持審慎：現有搜尋結果未提供足夠的一手資料，以獨立確認每個細節、是否獲授權，以及事件披露的完整背景。263

Anthropic、OpenAI 與 xAI 的共同主張

Anthropic 執行長 Dario Amodei 在〈We Must Pace the Frontier〉一文中，並未呼籲全面停止 AI 發展。他主張放慢最前沿模型能力提升的速度，採行獨立外部監測與評估、民主國家間的共同安全標準，並最終建立涵蓋中國在內的國際安排。12

OpenAI 執行長 Sam Altman 與 xAI 執行長 Elon Musk 都公開支持這個大方向；Musk 更寫道：「Dario is right（Dario 是對的）。」113

Anthropic 的立場則是，公司已採取業界較強的安全保障措施，並支持將獨立監督與共同標準擴及全產業，而非只適用於個別公司。12

反對聲音：安全論述會不會變成大公司的護城河？

批評者的質疑不在於能否證明 Coxon 的恐懼不真誠，而是監管的市場效果。Hugging Face 執行長 Clément Delangue 與 Nvidia 執行長 Jensen Huang 等人認為，過度嚴格的前沿模型規則，可能讓最有資金與合規資源的公司受益，最終把 Anthropic 和 OpenAI 變成受保護的雙頭壟斷者。3

時機也加深了這份懷疑：Anthropic 據報正準備首次公開發行股票（IPO），規模可能追平或超過 SpaceX 的紀錄。4

**關鍵結論是：**Coxon、Hubinger、Amodei、Altman 與 Musk 都認為，能力持續提升的 AI 需要更強的跨國協調與安全防護；但他們並未提出「人類滅絕迫在眉睫」的實證。風險有多高、何時可能發生，以及應以減速、監管或其他方式回應，至今仍是高度分歧的議題。1813