Jack Clark 的 2028 年 AI 预警：当 AI 能造出下一代自己，风险在哪里？

说得直白一点，Clark 担心的是 AI 从“帮人类造更好的 AI”，走向“接管足够多 AI 研发流程，以至于下一代模型可以在很少甚至没有人参与的情况下被造出来” 。

“AI 造出自己的后继者”是什么意思？

这里的“后继者”，不是科幻片里一个机器人在工厂里造另一个机器人，而是模型研发链条中的下一代、更强系统。Clark 关注的是：一个足够强的 AI 是否能参与甚至自动化打造下一代系统所需的关键工作 。

这和今天常见的“AI 编程助手”不是一回事。写代码只是研发流程中的一个环节；Clark 描述的场景，是前沿模型从设计、训练到评估、改进的研发管线本身被自动化 。

也要注意，Clark 并不是说这种情况已经发生。他给出的是一个关于 2028 年底前可能发生什么的概率判断 。

为什么这叫“递归自我改进”？

这个场景常被称为递归自我改进（recursive self-improvement）：一个 AI 系统帮助创造更强的 AI，而更强的新系统又能继续帮助创造下一代更强系统 。

高风险版本的关键，不只是“AI 让软件更好用”，而是改进 AI 的系统本身在一代代变强。围绕 Clark 预警的报道把这种可能性同“智能爆炸”联系起来：一旦 AI 能改进后续 AI，能力增长速度可能进一步加快 。

换句话说，如果 AI 进步的瓶颈从人类研究员转向“AI 改进 AI”，那么人类监测、解释和治理这种进步的难度也会随之上升 。

风险不在炫技，而在失去节拍

Clark 预警中最核心的风险，是人类对 AI 研发管线的监督被削弱。如果研发过程端到端自动化，人类可能在更强的后继系统出现之前，失去足够多有意义的检查点 。

具体来说，风险主要有三类：

• 人工审查点变少。 如果 AI 能独立完成足够多研究、训练和改进工作，企业和研究人员在下一代系统出现前用于安全评估的时间可能变少 。
• 能力增长加速。 Clark 的担忧与“AI 开始改进 AI 后，技术进展速度继续加快”的智能爆炸风险相关 。
• 治理压力上升。 Clark 写道，自动化 AI 研发的影响非常大，他不确定社会是否已经准备好面对这些变化 。

因此，问题并不是“AI 会不会更聪明”这么简单，而是更强 AI 的生产循环是否会快过安全测试、行业治理和公众理解的节奏 。

但 2028 年不是定论

Clark 的 60% 以上估计，是概率判断，不是已经被证明的事实 。围绕这个时间表，外界仍有明显分歧。

一篇批评文章认为，到 2028 年前出现完全无人工、端到端的递归自我改进并不太可能，其估计概率低于 10%；不过该文也承认，在更长的时间范围内，比如到 2036 年前后，类似情形仍可能逐步变得可行 。

技术层面也有争议。报道援引计算机科学家 Pedro Domingos 的观点称，关键并不只是 AI 能否生成或修改软件，而是这种能力能否带来可靠的递增回报；他认为这一点目前还没有被清楚证明 。

这些差别很重要。“AI 能辅助 AI 研究”“AI 能自动化大部分 AI 研发”以及“AI 能快速递归改进并触发智能爆炸”，是相互关联但并不相同的主张 。Clark 的预警，针对的是其中最具后果的一种可能性 。

一句话结论

Clark 预测，到 2028 年底前，AI 系统更有可能具备“无人类参与的 AI 研发”能力，并有可能构建自己的后继系统 。

如果他判断正确，真正的危险不只是创新速度变快，而是更强 AI 的制造过程可能快过人类监督、安全测试和治理机制的适应速度 。但最重要的保留意见是：这仍是一项有争议的预测，尤其是 2028 年这个时间点是否过于激进，仍未有定论 。