Jack Clark 2028 AI 預測：AI 識自己造下一代，點解咁大件事？

重點係：Clark 唔係話呢件事已經發生，而係作出一個有時間表嘅概率預測——佢認為呢個門檻有可能喺 2028 年底前被跨過 。

「AI 造自己下一代」唔係科幻片畫面

呢度講嘅「繼任者」，唔係一部機械人喺工廠砌另一部機械人，而係模型發展序列入面下一個、更有能力嘅 AI 系統。Clark 關注嘅係：一個足夠強嘅 AI，可能參與甚至自動化創造下一代模型所需嘅核心工作 。

呢件事同今日大家熟悉嘅「AI coding assistant」有距離。寫程式只係 AI 研發流程入面其中一環；Clark 講嘅係整條研發管線——模型點設計、點訓練、點評估、點修正同點再提升——都可能被大幅自動化 。

所以，問題唔係「AI 寫 code 寫得更快」；問題係「造 AI 嘅方法」本身會唔會由 AI 接手。

點解叫「遞迴自我改進」？

呢種情境通常叫 recursive self-improvement，中文可理解為「遞迴自我改進」：一個 AI 系統幫手造出更強嘅 AI；更強嘅 AI 又再幫手造出再強一代 。

最令人擔心嘅版本，唔係普通軟件迭代，而係能力增長可能一代疊一代加速。討論 Clark 預警嘅報道，亦將呢種可能性連到「intelligence explosion」（智能爆炸）風險：當 AI 可以改進後來嘅 AI，整體能力提升速度可能突然加快 。

呢個就係點解 Clark 嘅說法唔只係一個技術里程碑。如果 AI 發展嘅樽頸由人類研究員，轉去 AI 系統自己改進 AI 系統，人類要監察、理解同治理呢個過程就會困難得多 。

主要風險：人類檢查點變少

Clark 眼中最大嘅風險，是人類對 AI 研發管線嘅監督能力被削弱。若果研發流程變成端到端自動化，人類可能未有足夠時間做安全評估，下一個更強系統已經被造出嚟 。

可以拆成三個問題：

• 人類審查位減少。 如果 AI 可以自行完成大量研究、訓練同改良工作，企業同研究人員喺下一代模型出現之前，可能少咗實質機會去做安全檢查 。
• 能力提升速度加快。 Clark 嘅警告同「智能爆炸」風險有關：一旦 AI 開始改進 AI，AI 進步速度可能進一步加速 。
• 治理壓力急升。 Clark 自己亦寫到，呢件事嘅影響非常大，而佢唔肯定社會是否已準備好面對自動化 AI 研發帶來嘅改變 。

換句話講，真正風險唔係科幻式嘅「AI 叛變」畫面，而係一條更快、更自動化嘅前沿 AI 生產線，可能跑快過安全測試、監管制度同公眾理解可以追上嘅速度 。

仍然有好多不確定

Clark 嘅 60%+ 係概率判斷，唔係既定事實 。而且，時間表本身有爭議。

有評論就認為，到 2028 年出現完全無人、端到端嘅遞迴自我改進並不大可能，機率應低於 10%；不過，該評論同時承認，類似情況有可能喺更長時間內、例如去到 2036 年前後逐步變得可行 。

技術上亦有人質疑，遞迴自我改進是否一定帶來加速回報。有報道引述電腦科學家 Pedro Domingos 指出，關鍵唔只係 AI 能否生成或修改軟件，而係呢件事會否帶來可靠嘅遞增回報；佢認為目前未有清楚證據證明呢點 。

呢啲分歧好重要，因為「AI 幫手做 AI 研究」、「AI 自動化大部分 AI 研發」同「AI 快速自我改進到觸發智能爆炸」，係相關但唔完全相同嘅三個講法 。Clark 警告嘅，是當中最有後果、亦最需要預先準備嗰個版本 。

一句講晒

Clark 預測，到 2028 年底，出現可以進行「無人參與 AI 研發」、甚至合理地自主造出自己下一代嘅 AI 系統，可能性高過一半 。

如果佢估中，最大問題唔只係創新更快，而係更強 AI 嘅誕生速度，可能快過人類監督、安全測試同治理制度可以適應 。但最重要嘅保留係：呢仍然係一個有爭議嘅預測，亦有批評者認為 2028 呢個時間表太進取 。