Jack Clark 的 2028 年 AI 預警：為何「AI 製造後繼者」值得警惕

換句話說，Clark 擔心的不是「AI 幫人類做出更好的 AI」，而是 AI 可能接手足夠多的研發流程，使下一代模型在很少、甚至沒有實質人類參與的情況下被產生 。

「AI 打造自己的後繼者」是什麼意思？

所謂「後繼者」，可以理解為某個模型發展序列中的下一代、更強系統。Clark 的擔憂是，當 AI 足夠強時，它可能參與甚至自動化打造下一代系統所需的關鍵工作 。

這和今天大家熟悉的 AI 程式助理不同。寫程式只是研發中的一個環節；Clark 指的是整條研發管線：前沿模型如何被設計、訓練、評估與改進 。

重要的是，Clark 並不是說這件事已經發生。他提出的是一個到 2028 年底可能出現的機率預測 。

為什麼這被稱為「遞迴自我改進」？

這種情境常被稱為遞迴自我改進（recursive self-improvement）：AI 系統協助創造更強的 AI，而更強的 AI 又能協助創造再下一代、更強的系統 。

高風險版本的問題，不只是「AI 讓軟體變好」。真正讓人擔心的是一種複利式循環：負責改進 AI 的系統本身，也在每一代變得更有能力。討論 Clark 警告的報導也把這和「智慧爆炸」風險相連，也就是一旦 AI 能改善後續 AI 系統，能力成長速度可能進一步加快 。

因此，這不只是技術里程碑。若 AI 進步的瓶頸從人類研究者，轉向「AI 改進 AI」，人類要追蹤、理解與治理這個過程，難度可能會急劇上升 。

主要風險：人類監督點變少

Clark 預警中的核心風險，是人類對 AI 研發管線的監督能力被削弱。若研發流程端到端自動化，在下一個更強系統出現之前，人類可能只剩下更少、也更短的檢查窗口 。

這帶來三個直接問題：

• 安全審查時間被壓縮。 如果 AI 能自行完成大量研究、訓練與改進工作，企業與研究人員在下一代系統誕生前，用於安全評估的時間可能變少 。
• 能力提升可能加速。 Clark 的警告與「AI 開始改進 AI」後速度進一步上升的可能性相關；相關報導將這種動態稱為「智慧爆炸」風險 。
• 治理壓力變大。 Clark 寫道，這件事的影響非常巨大，他也不確定社會是否已準備好面對自動化 AI 研發所意味的變化 。

也就是說，這不是「機器人製造另一台機器人」的科幻畫面。更現實的風險，是前沿 AI 的生產循環變得更快、更自動化，甚至快過安全測試、監管制度與公眾理解能跟上的速度 。

還有哪些不確定性？

Clark 的 60%+ 是機率判斷，不是已被證明的事實 。最大爭議之一，就是時間表。

有批評文章認為，到 2028 年前出現無人類參與、端到端的遞迴自我改進並不太可能，估計機率低於 10%；但同時也承認，類似能力可能在更長時間軸上、例如到 2036 年前後逐步變得可行 。

技術層面也有分歧。報導引述電腦科學家 Pedro Domingos 的觀點指出，關鍵不只是 AI 能否生成或修改軟體，而是這是否會帶來可靠的遞增回報；Domingos 認為，目前這一點尚未被清楚證明 。

這些差異很重要，因為「AI 能協助 AI 研究」、「AI 能自動化大部分 AI 研發」與「AI 能快速遞迴改進自己並引發智慧爆炸」，是彼此相關但並不相同的主張 。Clark 的警告，指向的是其中影響最深遠的版本 。

結論：問題不是更快創新，而是誰還能踩煞車

Clark 的預測是：到 2028 年底，AI 系統更有可能具備「無人類參與 AI 研發」的能力，並合理地打造自己的後繼者 。

如果他判斷正確，最大的危險不只是技術創新變快，而是更強 AI 系統的誕生速度，可能超過人類監督、安全測試與治理制度調整的速度 。

但仍要記住，這是一項具爭議的預測。批評者認為，2028 年這個時間點可能過於激進；真正需要討論的，是在不確定性仍高的情況下，社會、企業與研究機構是否已準備好面對 AI 研發被大幅自動化的可能性 。