Google DeepMind 共同創辦人 Shane Legg 的警告很直接：**AI 能力的進展，不能快過安全管控的建立速度。**當系統愈來愈強，人類是否也同步具備足夠的監督、監測、治理與控制手段，將是關鍵問題。141

他是在推出 DeepMind Institute（DMI） 時提出這項主張。這個平台聚焦通用人工智慧（AGI，Artificial General Intelligence）的部署，以及它可能帶來的技術與社會影響。116

不是只問模型有多強，而是人類能否管得住

Legg 關切的不只是模型能力提升本身，而是安全機制能否跟上。若 AI 系統的能力快速增長，但對其行為的理解、監督與約束沒有同步強化，系統就可能變得難以妥善管理。1

這也是 DMI 的工作範圍不只限於技術安全研究的原因。其目標是促進跨領域研究、合作與辯論，討論 AGI 時代最重要的技術和社會問題，包括如何安全建構與治理 AGI 系統，以及由多個 AI 代理所組成的社群。16

DeepMind Institute 要討論什麼？

DMI 是一個發表與討論的平台，並非取代 Google DeepMind 原有的核心 AI 研究工作。它希望集合 Google DeepMind 與外部研究社群的觀點，探究能力日益提升的 AI 應如何被建構、治理、部署與使用。3642

議題橫跨科學、教育、社會、公共政策、哲學、經濟、安全與人類繁榮。換言之，問題不只是在於如何降低重大風險，也包括：若 AGI 被廣泛部署，現有制度、政策與社會目標是否需要調整，甚至重新想像。1636

對放慢前沿模型發布的看法：值得考慮，但非暫停

談到 Anthropic 執行長 Dario Amodei 提出「放慢、但不暫停」發布前沿 AI 模型的建議，Legg 表示，這個方向「很有意思」，也「值得考慮」。2

這不代表 Google DeepMind 已宣布採取特定發布政策；但這顯示 Legg 認為，在安全措施尚未充分到位前，以更審慎的節奏推出能力最強的模型，是嚴肅政策討論中不可忽略的選項。2

他為何認為「AGI 已實現」的說法言之過早？

儘管 Nvidia 與 OpenAI 的高層近日曾對 AGI 進展做出公開表態，Legg 認為現在就宣稱 AGI 已經達成，仍為時過早。4

現有報導未完整列出他對每一項能力缺口的直接說明，因此能確認的是：在 DeepMind 的標準下，他不認為目前系統已達 AGI。4

Google DeepMind 對 AGI 的描述，是「具有人腦認知能力的系統」。這比在特定基準測試或單一任務上表現突出，要求更廣泛得多。13

不過，Legg 仍表示，他對自己長期以來的預測感到「安心」：**到 2028 年實現「最低限度 AGI」的機率為 50%。**這是一項機率預測，不是已確認的時間表。210

首批文章：從可解釋性到經濟制度與人類繁榮

DMI 上線時發布引言及多篇實質文章，初期主題反映其跨領域取向：

1. 推理透明度：Rohin Shah 與 Anca Dragan 主張，應保留人類可理解的模型推理，使人們能監測 AI 是否出現欺瞞或策劃等行為。11
2. AGI 經濟政策：文章評估 11 項可能的政策，用以因應愈發先進且普及的 AI 所造成的潛在經濟衝擊；評估面向包括福祉、韌性、自主性與經濟穩定。39
3. 新烏托邦主義原則：文章探討在 AGI 可能重塑社會的情況下，人類繁榮可代表什麼，同時提醒讀者不應把「烏托邦」當成完美社會的承諾。37

此外，DMI 也列出另一篇實質文章：〈前沿 AI 與新時代黎明的框架〉，與引言及上述三個主題並列。4138

重點：能力加速，治理也必須加速

Legg 的立場同時帶有急迫感與克制。他不認為 AGI 已經實現，卻仍給予 2028 年達成「最低限度 AGI」50% 的機率。

因此，他真正提出的不是單一時間預言，而是一項治理要求：如果 AI 能力正在加速，理解、監督並引導其部署的制度與工具，也必須同步加速。1216

Google DeepMind 共同創辦人 Shane Legg 的警告很直接：**AI 能力的進展，不能快過安全管控的建立速度。**當系統愈來愈強，人類是否也同步具備足夠的監督、監測、治理與控制手段，將是關鍵問題。141

他是在推出 DeepMind Institute（DMI） 時提出這項主張。這個平台聚焦通用人工智慧（AGI，Artificial General Intelligence）的部署，以及它可能帶來的技術與社會影響。116

不是只問模型有多強，而是人類能否管得住

Legg 關切的不只是模型能力提升本身，而是安全機制能否跟上。若 AI 系統的能力快速增長，但對其行為的理解、監督與約束沒有同步強化，系統就可能變得難以妥善管理。1

這也是 DMI 的工作範圍不只限於技術安全研究的原因。其目標是促進跨領域研究、合作與辯論，討論 AGI 時代最重要的技術和社會問題，包括如何安全建構與治理 AGI 系統，以及由多個 AI 代理所組成的社群。16

DeepMind Institute 要討論什麼？

DMI 是一個發表與討論的平台，並非取代 Google DeepMind 原有的核心 AI 研究工作。它希望集合 Google DeepMind 與外部研究社群的觀點，探究能力日益提升的 AI 應如何被建構、治理、部署與使用。3642

議題橫跨科學、教育、社會、公共政策、哲學、經濟、安全與人類繁榮。換言之，問題不只是在於如何降低重大風險，也包括：若 AGI 被廣泛部署，現有制度、政策與社會目標是否需要調整，甚至重新想像。1636

對放慢前沿模型發布的看法：值得考慮，但非暫停

談到 Anthropic 執行長 Dario Amodei 提出「放慢、但不暫停」發布前沿 AI 模型的建議，Legg 表示，這個方向「很有意思」，也「值得考慮」。2

這不代表 Google DeepMind 已宣布採取特定發布政策；但這顯示 Legg 認為，在安全措施尚未充分到位前，以更審慎的節奏推出能力最強的模型，是嚴肅政策討論中不可忽略的選項。2

他為何認為「AGI 已實現」的說法言之過早？

儘管 Nvidia 與 OpenAI 的高層近日曾對 AGI 進展做出公開表態，Legg 認為現在就宣稱 AGI 已經達成，仍為時過早。4

現有報導未完整列出他對每一項能力缺口的直接說明，因此能確認的是：在 DeepMind 的標準下，他不認為目前系統已達 AGI。4

Google DeepMind 對 AGI 的描述，是「具有人腦認知能力的系統」。這比在特定基準測試或單一任務上表現突出，要求更廣泛得多。13

不過，Legg 仍表示，他對自己長期以來的預測感到「安心」：**到 2028 年實現「最低限度 AGI」的機率為 50%。**這是一項機率預測，不是已確認的時間表。210

首批文章：從可解釋性到經濟制度與人類繁榮

DMI 上線時發布引言及多篇實質文章，初期主題反映其跨領域取向：

1. 推理透明度：Rohin Shah 與 Anca Dragan 主張，應保留人類可理解的模型推理，使人們能監測 AI 是否出現欺瞞或策劃等行為。11
2. AGI 經濟政策：文章評估 11 項可能的政策，用以因應愈發先進且普及的 AI 所造成的潛在經濟衝擊；評估面向包括福祉、韌性、自主性與經濟穩定。39
3. 新烏托邦主義原則：文章探討在 AGI 可能重塑社會的情況下，人類繁榮可代表什麼，同時提醒讀者不應把「烏托邦」當成完美社會的承諾。37

此外，DMI 也列出另一篇實質文章：〈前沿 AI 與新時代黎明的框架〉，與引言及上述三個主題並列。4138

重點：能力加速，治理也必須加速

Legg 的立場同時帶有急迫感與克制。他不認為 AGI 已經實現，卻仍給予 2028 年達成「最低限度 AGI」50% 的機率。

因此，他真正提出的不是單一時間預言，而是一項治理要求：如果 AI 能力正在加速，理解、監督並引導其部署的制度與工具，也必須同步加速。1216