前 Google DeepMind 研究科學家 Alex Turner 的警告，比「AI 應該放慢一點」更進一步：最前沿的 AI 系統，可能正以企業、政府，甚至處於競爭關係的強權都難以可靠管理的速度演進。他認為，若只期待科技公司自行克制，未必足以應對競賽壓力；追蹤算力，才可能成為真正可執行監管的基礎。 17

Turner 為何離開 DeepMind？

Turner 曾在 DeepMind 的「可擴展對齊」（scalable alignment）團隊工作，研究如何讓未來能力極強的 AI 與人類福祉相容。他於 2026 年 6 月離職，理由是 Google 與美國國防部五角大廈達成協議，允許其 AI 用於機密工作；他認為協議缺乏具約束力的條款，無法排除自主武器與大規模監控用途。 1819

這件事也凸顯他的核心觀點：安全原則若無法在商業利益與國安壓力上升時被強制執行，就不只是治理問題，而可能淪為宣示。

他擔心的不是「AI 很聰明」，而是人類失去控制

Turner 並未宣稱災難必然發生。他提出的是一種風險情境：若 AI 能協助 AI 研究、將部分研發工作自動化，甚至促成下一代系統的改進，其能力提升速度可能超過人類檢查、評估與介入的速度。

風險關鍵在於三者的結合：能力、自治性與不可可靠控制性。若系統可自主追求複雜目標、取得工具使用權限，並改進後繼系統，就可能形成能力快速累積、但人類監督跟不上的回饋循環。

因此，Turner 主張不應允許 AI 自我改進到人類無法控制的智慧水準。這不是在說這類系統已經存在，也不是斷言人類滅絕必定發生；而是指出一條一旦走入、可能很難及時回頭的失控路徑。 1719

為什麼「追蹤算力」成了監管抓手？

所謂算力（compute），是訓練先進模型所需的高階晶片、資料中心與電力資源。它是前沿 AI 開發少數具實體性、相對稀缺且可觀察的投入。Turner 認為，追蹤算力可望成為落實監管的槓桿。 17

實務上，這類制度可讓政府或獨立機構掌握異常龐大的訓練作業，為特定規模設立許可或審查門檻，也較能防止開發者在缺乏外部知情下跨越已同意的能力界線。

算力監管無法單靠自己解決「對齊」問題，但它提供了可稽核的治理對象：在模型被部署前，外界至少能檢視推動其能力躍升的資源與活動。這與企業自願承諾的差別在於，後者能表明意圖，前者才可能在企業有強烈搶快誘因時發揮約束力。

Amodei 的方案：不是暫停，而是「放慢前沿」

Anthropic 執行長 Dario Amodei 提出「放慢前沿」（pace the frontier），主張降低 AI 能力提升的速度，讓對齊研究、防護措施與外部評估有時間跟上；他明確表示，這並非要求停止模型訓練或技術進步。 16

他的方案有三層：

1. 常駐式獨立評估人員：前沿 AI 實驗室應讓外部評估者持續、以近似員工的權限進入，驗證安全措施、評估對齊狀況並通報事故；Anthropic 已承諾採取這一步。 16
2. 民主國家與領先實驗室協調：推動共同安全標準，並限制未受控的能力成長。 116
3. 最終尋求包括中國在內的國際協調：避免某一方克制，研發卻只轉移到其他地方的危險賽局。 18

相較之下，Amodei 的路線接受前沿研發持續進行，但要求其速度更慢、過程更可驗證；Turner 則更著重於阻止不可控的自我改進，並直接監管支撐前沿開發的算力投入。

Altman、Musk 與 Hassabis 怎麼看？

Amodei 的提案獲得幾位競爭對手領導人罕見的公開支持：

• Sam Altman 表示 OpenAI 將採行讓獨立評估者獲得近似員工權限的做法，並稱公司歡迎針對前沿 AI 實驗室的安全要求。 212
• Elon Musk 公開表示「Dario 是對的」，但現有報導較少說明他支持哪一套具體監管設計。 47
• Demis Hassabis 認為 Amodei 的文章指出了正確方向，支持更強的防護措施與較慢的前沿推進步調。 27

不過，這些表態不代表他們已對能力門檻、執法機制或地緣政治代價達成一致。它更像是顯示：爭論已從「前沿 AI 是否需要安全工作」，轉向「能否在持續擴張能力的同時，讓安全真正追得上」。

中國既是反對減速的理由，也是合作的理由

反對放慢的一項典型論點是：若美國公司減速，中國可能不會。路透將這場分歧描述為協調式約束與市場主導型安全措施之爭，而與中國的競爭正居於論辯中心。 1

Amodei 的回應是分階段協調：先由民主國家與其領先實驗室建立共同規範，再盡可能擴大到全球合作。但這正是方案中最不確定的一環——核查難度、戰略互不信任與各國優先事項，都讓具約束力的協議難以達成。

也因此，Turner 聚焦算力：當國際競賽使善意承諾更脆弱時，能辨識並查核最大規模訓練資源的制度，或許比單靠企業承諾更有執行力。 17

真正的分歧：誰該證明「繼續前進是安全的」？

目前業界的共識仍很有限。Amodei、Altman、Musk 與 Hassabis 都支持某種形式的減速與更強評估。 127 但幾個難題尚未有答案：

• 企業是否應在安全制度逐步改善之際，繼續推進前沿能力？
• 對於可能導向未受控自我改進的路徑，是否應先禁止，直到人類有可信的控制方法？
• 外部評估者是否能真正獨立，並取得足以挑戰受評企業的資訊與權限？
• 國際協調能否避免安全規則反而成為遵守者的競爭劣勢？

Turner 的重點是：若問題確實是「失去控制」，回應就不能只停留在企業審慎或公共關係承諾，而必須可稽核、可執行。Amodei 的方案是朝外部監督邁出重要一步；Turner 的警告則提醒，最終檢驗標準是監督能否真的阻止危險能力競賽。 1617

前 Google DeepMind 研究科學家 Alex Turner 的警告，比「AI 應該放慢一點」更進一步：最前沿的 AI 系統，可能正以企業、政府，甚至處於競爭關係的強權都難以可靠管理的速度演進。他認為，若只期待科技公司自行克制，未必足以應對競賽壓力；追蹤算力，才可能成為真正可執行監管的基礎。 17

Turner 為何離開 DeepMind？

Turner 曾在 DeepMind 的「可擴展對齊」（scalable alignment）團隊工作，研究如何讓未來能力極強的 AI 與人類福祉相容。他於 2026 年 6 月離職，理由是 Google 與美國國防部五角大廈達成協議，允許其 AI 用於機密工作；他認為協議缺乏具約束力的條款，無法排除自主武器與大規模監控用途。 1819

這件事也凸顯他的核心觀點：安全原則若無法在商業利益與國安壓力上升時被強制執行，就不只是治理問題，而可能淪為宣示。

他擔心的不是「AI 很聰明」，而是人類失去控制

Turner 並未宣稱災難必然發生。他提出的是一種風險情境：若 AI 能協助 AI 研究、將部分研發工作自動化，甚至促成下一代系統的改進，其能力提升速度可能超過人類檢查、評估與介入的速度。

風險關鍵在於三者的結合：能力、自治性與不可可靠控制性。若系統可自主追求複雜目標、取得工具使用權限，並改進後繼系統，就可能形成能力快速累積、但人類監督跟不上的回饋循環。

因此，Turner 主張不應允許 AI 自我改進到人類無法控制的智慧水準。這不是在說這類系統已經存在，也不是斷言人類滅絕必定發生；而是指出一條一旦走入、可能很難及時回頭的失控路徑。 1719

為什麼「追蹤算力」成了監管抓手？

所謂算力（compute），是訓練先進模型所需的高階晶片、資料中心與電力資源。它是前沿 AI 開發少數具實體性、相對稀缺且可觀察的投入。Turner 認為，追蹤算力可望成為落實監管的槓桿。 17

實務上，這類制度可讓政府或獨立機構掌握異常龐大的訓練作業，為特定規模設立許可或審查門檻，也較能防止開發者在缺乏外部知情下跨越已同意的能力界線。

算力監管無法單靠自己解決「對齊」問題，但它提供了可稽核的治理對象：在模型被部署前，外界至少能檢視推動其能力躍升的資源與活動。這與企業自願承諾的差別在於，後者能表明意圖，前者才可能在企業有強烈搶快誘因時發揮約束力。

Amodei 的方案：不是暫停，而是「放慢前沿」

Anthropic 執行長 Dario Amodei 提出「放慢前沿」（pace the frontier），主張降低 AI 能力提升的速度，讓對齊研究、防護措施與外部評估有時間跟上；他明確表示，這並非要求停止模型訓練或技術進步。 16

他的方案有三層：

1. 常駐式獨立評估人員：前沿 AI 實驗室應讓外部評估者持續、以近似員工的權限進入，驗證安全措施、評估對齊狀況並通報事故；Anthropic 已承諾採取這一步。 16
2. 民主國家與領先實驗室協調：推動共同安全標準，並限制未受控的能力成長。 116
3. 最終尋求包括中國在內的國際協調：避免某一方克制，研發卻只轉移到其他地方的危險賽局。 18

相較之下，Amodei 的路線接受前沿研發持續進行，但要求其速度更慢、過程更可驗證；Turner 則更著重於阻止不可控的自我改進，並直接監管支撐前沿開發的算力投入。

Altman、Musk 與 Hassabis 怎麼看？

Amodei 的提案獲得幾位競爭對手領導人罕見的公開支持：

• Sam Altman 表示 OpenAI 將採行讓獨立評估者獲得近似員工權限的做法，並稱公司歡迎針對前沿 AI 實驗室的安全要求。 212
• Elon Musk 公開表示「Dario 是對的」，但現有報導較少說明他支持哪一套具體監管設計。 47
• Demis Hassabis 認為 Amodei 的文章指出了正確方向，支持更強的防護措施與較慢的前沿推進步調。 27

不過，這些表態不代表他們已對能力門檻、執法機制或地緣政治代價達成一致。它更像是顯示：爭論已從「前沿 AI 是否需要安全工作」，轉向「能否在持續擴張能力的同時，讓安全真正追得上」。

中國既是反對減速的理由，也是合作的理由

反對放慢的一項典型論點是：若美國公司減速，中國可能不會。路透將這場分歧描述為協調式約束與市場主導型安全措施之爭，而與中國的競爭正居於論辯中心。 1

Amodei 的回應是分階段協調：先由民主國家與其領先實驗室建立共同規範，再盡可能擴大到全球合作。但這正是方案中最不確定的一環——核查難度、戰略互不信任與各國優先事項，都讓具約束力的協議難以達成。

也因此，Turner 聚焦算力：當國際競賽使善意承諾更脆弱時，能辨識並查核最大規模訓練資源的制度，或許比單靠企業承諾更有執行力。 17

真正的分歧：誰該證明「繼續前進是安全的」？

目前業界的共識仍很有限。Amodei、Altman、Musk 與 Hassabis 都支持某種形式的減速與更強評估。 127 但幾個難題尚未有答案：

• 企業是否應在安全制度逐步改善之際，繼續推進前沿能力？
• 對於可能導向未受控自我改進的路徑，是否應先禁止，直到人類有可信的控制方法？
• 外部評估者是否能真正獨立，並取得足以挑戰受評企業的資訊與權限？
• 國際協調能否避免安全規則反而成為遵守者的競爭劣勢？

Turner 的重點是：若問題確實是「失去控制」，回應就不能只停留在企業審慎或公共關係承諾，而必須可稽核、可執行。Amodei 的方案是朝外部監督邁出重要一步；Turner 的警告則提醒，最終檢驗標準是監督能否真的阻止危險能力競賽。 1617