Shane Legg 警告：AI 跑得愈快，安全控制更要跟得上

Google DeepMind 聯合創辦人 Shane Legg 提醒，AI 能力愈來愈強之際，安全控制、監察同人類管治機制都必須同步升級；唔可以技術一路衝，保障措施就一路追。呢個正正係他推出 DeepMind Institute（DMI） 時帶出嘅核心訊息。DMI 會探討人工通用智能（AGI）部署後嘅技術同社會影響。141

重點唔止係「AI 有幾勁」，而係仲控唔控制到

Legg 關注嘅唔單止係模型能力提升，而係監督、監測、管治同控制工具，有冇足夠速度跟得上。當系統可以處理更多自主工作、協助寫程式，甚至參與 AI 研發時，社會需要能夠理解、監察同約束佢嘅方法；否則能力進展同安全保障之間嘅落差只會愈拉愈闊。1

因此，DMI 嘅範圍唔限於純技術安全研究。研究所表示，希望推動跨學科研究、合作同辯論，處理 AGI 時代最重要嘅技術及社會問題：例如點樣安全建立同管治 AGI 系統及其可能形成嘅多代理社群、社會應保留咩價值，以及現有制度同政策要點樣調整。16

DeepMind Institute 係咩？

DMI 係一個發表文章同交流觀點嘅平台，唔係取代 Google DeepMind 核心 AI 研究嘅新實驗室。佢旨在讓 Google DeepMind、Google 及外界研究社群，一齊探討能力愈來愈高嘅 AI 應如何建立、管治、部署同使用。3642

議題包括科學、教育、社會、公共政策、哲學、經濟、安全同人類福祉。換句話講，討論既包括點樣減低嚴重風險，亦包括一旦 AGI 廣泛應用，工作、制度、公共政策同「過得好」嘅定義，可能要面對咩改變。1636

對放慢前沿模型推出速度：值得認真考慮

對 Anthropic 行政總裁 Dario Amodei 提出「放慢、但唔係暫停」推出前沿 AI 模型嘅建議，Legg 形容係「方向上有意思」，亦「值得考慮」。2

呢番說話唔代表 Google DeepMind 已宣布新嘅模型發布政策。不過，至少反映 Legg 認為：當防護措施未追得上時，較審慎嘅部署節奏係值得放入政策討論嘅選項。2

AGI 已經到咗？Legg 認為未係時候下定論

雖然 Nvidia 同 OpenAI 高層近日曾作出 AGI 相關表述，Legg 認為，依家就宣布 AGI 已經實現仍然太早。現有報道冇完整交代他逐項指向邊啲能力差距，因此可以確定嘅係：以 DeepMind 嘅標準計，他唔認為目前系統已達到 AGI。4

Google DeepMind 對 AGI 嘅描述係：具備人類大腦認知能力嘅系統。呢個門檻遠高於喺某幾個測試、指定任務或者單一專業領域表現出色。13

不過，Legg 仍然表示，他對自己長期作出嘅預測感到「舒服」：到 2028 年，有 50% 機會達成「最低限度 AGI（minimal AGI）」。要留意，呢個係機率預測，唔係已確認嘅時間表。210

首批文章睇緊乜嘢？

DMI 推出時發表咗導言同多篇專題文章，頭幾個主題已經顯示佢唔會只聚焦「防出事」：

1. 推理透明度：Rohin Shah 同 Anca Dragan 主張保留可供人理解嘅模型推理，以便人類監察系統有冇欺騙或暗中策劃行為。11
2. AGI 經濟政策：文章評估 11 項可能政策，用以應對先進 AI 普及後帶來嘅潛在經濟衝擊；評估準則包括福祉、韌性、自主性同經濟穩定。39
3. 新烏托邦主義原則：文章討論 AGI 重塑社會後，人類福祉可以係乜嘢，同時提醒「烏托邦」唔應被當成完美社會嘅保證。37

研究所網站亦列出第四篇專題文章：〈A framework for frontier AI and the dawning of a new age〉，連同導言及上述三篇文章一同發布。4138

總結：唔係預言末日，而係要求安全唔好甩後

Legg 嘅立場有兩面：他唔認為 AGI 已經出現，但同時維持 2028 年有 50% 機會達到「最低限度 AGI」嘅判斷。真正重點唔係押中日期，而係一個管治原則：如果 AI 能力加速，理解、監督同塑造其部署方式嘅制度同安全機制，都必須加速跟上。1216