Alex Turner 曾任 Google DeepMind 研究科學家，佢提出嘅唔只係一般所講嘅「AI 要慢啲」：最前沿系統嘅能力提升，可能快過公司、政府，甚至互相競爭嘅大國可以穩妥管理嘅速度。Turner 指出，追蹤「算力」或可成為落實監管嘅切入點；而一旦置身 AI 競賽，單靠企業自願克制未必靠得住。 17

點解 Turner 離開 DeepMind？

Turner 原本喺 DeepMind 嘅可擴展對齊（scalable alignment）團隊工作，2026 年 6 月離職。佢表示，Google 同美國五角大樓達成協議、容許五角大樓把 Google AI 用於機密工作後，佢選擇離開；佢反對嘅原因是協議欠缺具約束力嘅條款，禁止自主武器及大規模監控用途。 1819

呢件事令軍事用途治理同更廣泛嘅強大 AI 風險連起來：就算企業訂咗安全原則，當商業利益同戰略壓力升溫時，原則有冇得執行先至係關鍵。Turner 喺 DeepMind 嘅工作，正正係「對齊」研究——嘗試令未來能力極高嘅系統，行為仍然符合人類福祉。 19

佢所講嘅「失控」風險，唔係末日預言

Turner 並非斷言災難必然發生，而係提出一個風險論證：如果 AI 可以協助 AI 研究、把自身開發過程部分自動化，或者其運作複雜到人類再無法有效檢視，制度可能未及評估及遏止，控制權已經流失。

焦點唔係抽象地問 AI 有幾聰明，而係能力、自主性同欠缺可靠控制三者疊加。一個可以追求複雜目標、調用工具，並協助改良後繼系統嘅模型，可能形成反饋循環：能力進步快過人類測試、審核同管治。

因此 Turner 主張，公司唔應該容許 AI 自我改進至不可控制嘅智能水平。呢個係對一種合理失效模式嘅警示，並唔代表已有證據顯示呢類系統已存在，或者人類滅絕必定會發生。 1719

點解「追蹤算力」咁重要？

訓練先進模型所需嘅算力，涉及專用晶片、數據中心同電力，是前沿 AI 開發中稀缺而實體化嘅投入。Turner 認為，追蹤算力可以成為有實際執行力嘅監管基礎。 17

實際上，算力監察制度可以令政府或獨立機構看見異常大型嘅訓練項目，為特定規模設定發牌或審查門檻，亦令開發者較難暗中跨越已協定嘅能力界線。佢本身唔會解決「對齊」問題；價值在於管治——模型部署前，有一項可被核查嘅具體資源可以監察。

爭論嘅分水嶺正正喺度：自願承諾可以顯示意向，但監察同具約束力嘅規則，目的係當單一公司有誘因衝得更快時，仍然發揮作用。

Amodei：唔係暫停，而係「放慢前沿」

Anthropic 行政總裁 Dario Amodei 提出「放慢前沿」（pacing the frontier）：減慢 AI 能力提升嘅速度，令對齊研究、防護措施同外部評估有時間追上；佢明確表示，呢個唔等於停止模型訓練或技術進步。 16

方案有三部分：

1. 駐場獨立評估員：前沿 AI 實驗室要畀外部評估員持續、近乎員工級別嘅存取權，核實安全做法、評估對齊情況及報告事故。Anthropic 已承諾採取呢一步。 16
2. 民主國家與主要實驗室協調：參與者要朝住共同安全標準前進，並限制無節制嘅能力增長。 116
3. 最終推動國際協調，可能時包括中國：目標係避免一國收斂、研發就轉移去另一國嘅危險競賽。 18

呢個框架容許前沿研發繼續，但要求進展變得更慢、亦更可驗證。相比之下，Turner 更著眼於阻止不受控制嘅自我改進，並規管令前沿能力得以出現嘅投入資源。

Altman、Musk 同 Hassabis 支持到邊？

Amodei 嘅方案得到幾位競爭 AI 機構領袖罕有地公開支持。

• Sam Altman 表示 OpenAI 會採納讓獨立評估員取得近乎員工級存取權嘅做法，亦稱公司歡迎為前沿實驗室設安全要求。 212
• Elon Musk 公開認同 Amodei 嘅方向，稱「Dario is right」；不過現有報道未交代佢支持嘅具體監管藍圖。 47
• Demis Hassabis 表示 Amodei 嘅文章指向正確方向，意味住 DeepMind 負責人支持加強保障及放慢前沿推進嘅大方向。 27

呢啲支持唔代表各方已就門檻、執行機制或地緣政治取捨達成共識。不過，討論已由「前沿安全係咪值得理會」轉為「在持續擴展能力下，安全工作可唔可以真係追得上」。

中國既係反對理由，亦係合作理由

反對減速最常見嘅說法係地緣政治：如果美國公司放慢，中國未必會。路透社形容，整場爭論涉及協調克制與市場主導式保障之間嘅分歧，而對中國嘅競爭正正係核心因素。 1

Amodei 嘅回應係分階段協調：先由民主國家及其主要實驗室開始，再擴展至更廣泛層面。但全球協議亦係計劃中最不明朗嘅部分。要驗證合規、克服戰略互不信任，以及平衡各國優先次序，本身都令具約束力嘅安排非常困難。

Turner 對算力嘅重視，正好說明點解支持者想要嘅唔係一句「大家自律」。如果政府能辨識並審查最大規模訓練所用資源，可能就有一個比在國際競賽中作出嘅承諾更可執行嘅槓桿。 17

真正爭議：邊個要負責證明「安全」？

業界新出現嘅共識其實相當有限。Amodei、Altman、Musk 同 Hassabis 都認同某種形式嘅放慢節奏及加強評估。 127 但以下問題仍未有答案：

• 公司應否繼續推進前沿能力，同時讓安全措施一路追趕？
• 定係某些路線——尤其是可能無節制自我改進嘅系統——應該在有可信控制方法前被禁止？
• 外部評估員能否真正獨立，又是否有足夠資訊挑戰被審核嘅實驗室？
• 在國際競爭下，協調能否避免安全規則反而變成守規矩一方嘅競爭劣勢？

Turner 最重要嘅提醒係：呢個唔只係企業肯唔肯小心嘅問題。假如真正擔心嘅係失控，回應就必須可審核、可執行。Amodei 嘅方案是走向外部監察嘅重要一步；而 Turner 嘅警告指出，最終考驗在於監督機制有冇能力真係制止一場危險嘅能力競賽。 1617

Alex Turner 曾任 Google DeepMind 研究科學家，佢提出嘅唔只係一般所講嘅「AI 要慢啲」：最前沿系統嘅能力提升，可能快過公司、政府，甚至互相競爭嘅大國可以穩妥管理嘅速度。Turner 指出，追蹤「算力」或可成為落實監管嘅切入點；而一旦置身 AI 競賽，單靠企業自願克制未必靠得住。 17

點解 Turner 離開 DeepMind？

Turner 原本喺 DeepMind 嘅可擴展對齊（scalable alignment）團隊工作，2026 年 6 月離職。佢表示，Google 同美國五角大樓達成協議、容許五角大樓把 Google AI 用於機密工作後，佢選擇離開；佢反對嘅原因是協議欠缺具約束力嘅條款，禁止自主武器及大規模監控用途。 1819

呢件事令軍事用途治理同更廣泛嘅強大 AI 風險連起來：就算企業訂咗安全原則，當商業利益同戰略壓力升溫時，原則有冇得執行先至係關鍵。Turner 喺 DeepMind 嘅工作，正正係「對齊」研究——嘗試令未來能力極高嘅系統，行為仍然符合人類福祉。 19

佢所講嘅「失控」風險，唔係末日預言

Turner 並非斷言災難必然發生，而係提出一個風險論證：如果 AI 可以協助 AI 研究、把自身開發過程部分自動化，或者其運作複雜到人類再無法有效檢視，制度可能未及評估及遏止，控制權已經流失。

焦點唔係抽象地問 AI 有幾聰明，而係能力、自主性同欠缺可靠控制三者疊加。一個可以追求複雜目標、調用工具，並協助改良後繼系統嘅模型，可能形成反饋循環：能力進步快過人類測試、審核同管治。

因此 Turner 主張，公司唔應該容許 AI 自我改進至不可控制嘅智能水平。呢個係對一種合理失效模式嘅警示，並唔代表已有證據顯示呢類系統已存在，或者人類滅絕必定會發生。 1719

點解「追蹤算力」咁重要？

訓練先進模型所需嘅算力，涉及專用晶片、數據中心同電力，是前沿 AI 開發中稀缺而實體化嘅投入。Turner 認為，追蹤算力可以成為有實際執行力嘅監管基礎。 17

實際上，算力監察制度可以令政府或獨立機構看見異常大型嘅訓練項目，為特定規模設定發牌或審查門檻，亦令開發者較難暗中跨越已協定嘅能力界線。佢本身唔會解決「對齊」問題；價值在於管治——模型部署前，有一項可被核查嘅具體資源可以監察。

爭論嘅分水嶺正正喺度：自願承諾可以顯示意向，但監察同具約束力嘅規則，目的係當單一公司有誘因衝得更快時，仍然發揮作用。

Amodei：唔係暫停，而係「放慢前沿」

Anthropic 行政總裁 Dario Amodei 提出「放慢前沿」（pacing the frontier）：減慢 AI 能力提升嘅速度，令對齊研究、防護措施同外部評估有時間追上；佢明確表示，呢個唔等於停止模型訓練或技術進步。 16

方案有三部分：

1. 駐場獨立評估員：前沿 AI 實驗室要畀外部評估員持續、近乎員工級別嘅存取權，核實安全做法、評估對齊情況及報告事故。Anthropic 已承諾採取呢一步。 16
2. 民主國家與主要實驗室協調：參與者要朝住共同安全標準前進，並限制無節制嘅能力增長。 116
3. 最終推動國際協調，可能時包括中國：目標係避免一國收斂、研發就轉移去另一國嘅危險競賽。 18

呢個框架容許前沿研發繼續，但要求進展變得更慢、亦更可驗證。相比之下，Turner 更著眼於阻止不受控制嘅自我改進，並規管令前沿能力得以出現嘅投入資源。

Altman、Musk 同 Hassabis 支持到邊？

Amodei 嘅方案得到幾位競爭 AI 機構領袖罕有地公開支持。

• Sam Altman 表示 OpenAI 會採納讓獨立評估員取得近乎員工級存取權嘅做法，亦稱公司歡迎為前沿實驗室設安全要求。 212
• Elon Musk 公開認同 Amodei 嘅方向，稱「Dario is right」；不過現有報道未交代佢支持嘅具體監管藍圖。 47
• Demis Hassabis 表示 Amodei 嘅文章指向正確方向，意味住 DeepMind 負責人支持加強保障及放慢前沿推進嘅大方向。 27

呢啲支持唔代表各方已就門檻、執行機制或地緣政治取捨達成共識。不過，討論已由「前沿安全係咪值得理會」轉為「在持續擴展能力下，安全工作可唔可以真係追得上」。

中國既係反對理由，亦係合作理由

反對減速最常見嘅說法係地緣政治：如果美國公司放慢，中國未必會。路透社形容，整場爭論涉及協調克制與市場主導式保障之間嘅分歧，而對中國嘅競爭正正係核心因素。 1

Amodei 嘅回應係分階段協調：先由民主國家及其主要實驗室開始，再擴展至更廣泛層面。但全球協議亦係計劃中最不明朗嘅部分。要驗證合規、克服戰略互不信任，以及平衡各國優先次序，本身都令具約束力嘅安排非常困難。

Turner 對算力嘅重視，正好說明點解支持者想要嘅唔係一句「大家自律」。如果政府能辨識並審查最大規模訓練所用資源，可能就有一個比在國際競賽中作出嘅承諾更可執行嘅槓桿。 17

真正爭議：邊個要負責證明「安全」？

業界新出現嘅共識其實相當有限。Amodei、Altman、Musk 同 Hassabis 都認同某種形式嘅放慢節奏及加強評估。 127 但以下問題仍未有答案：

• 公司應否繼續推進前沿能力，同時讓安全措施一路追趕？
• 定係某些路線——尤其是可能無節制自我改進嘅系統——應該在有可信控制方法前被禁止？
• 外部評估員能否真正獨立，又是否有足夠資訊挑戰被審核嘅實驗室？
• 在國際競爭下，協調能否避免安全規則反而變成守規矩一方嘅競爭劣勢？

Turner 最重要嘅提醒係：呢個唔只係企業肯唔肯小心嘅問題。假如真正擔心嘅係失控，回應就必須可審核、可執行。Amodei 嘅方案是走向外部監察嘅重要一步；而 Turner 嘅警告指出，最終考驗在於監督機制有冇能力真係制止一場危險嘅能力競賽。 1617