Shane Legg 的核心提醒很直接：AI 的能力进步，不能快过用于监测、约束和控制它的安全机制。 这位 Google DeepMind 联合创始人在推出 DeepMind Institute（DMI，DeepMind 研究院） 时提出了这一警告。该平台将聚焦人工通用智能（AGI）的部署及其带来的技术和社会影响。141

不是只问“AI 能做什么”，还要问“人类能否管得住”

Legg 所担心的，并不只是模型在单项任务上变得更强，而是监督、监测、治理与控制手段能否以足够快的速度跟上。若能力提升与安全控制脱节，越来越强大的系统就可能超出人类可管理的范围。1

这也是 DMI 的议题不局限于技术安全的原因。该机构希望推动跨学科研究、协作和讨论，回答 AGI 时代最关键的技术与社会问题：如何安全地构建和治理 AGI 系统及其可能形成的智能体群体；哪些社会制度与公共政策需要调整，甚至重新设计。16

DeepMind Institute 是什么？

DMI 更接近一个发表研究、汇集观点与推动讨论的平台，并非取代 Google DeepMind 核心 AI 研发工作的实验室。它计划连接 Google DeepMind 与外部研究社群，探讨能力不断提升的 AI 应如何被构建、治理、部署和使用。3642

其讨论范围覆盖科学、教育、社会、公共政策、哲学、经济、安全与人类福祉。换言之，问题不仅是如何降低重大风险，也包括：如果 AGI 得到广泛部署，社会应如何分配收益、适应冲击，并界定值得追求的共同目标。1636

对放慢前沿模型发布，Legg 认为“值得考虑”

对于 Anthropic 首席执行官达里奥·阿莫迪（Dario Amodei）提出的建议——放慢前沿 AI 模型的发布节奏，但不暂停发布——Legg 评价称，这一方向“很有意思”，也“值得考虑”。2

这并不意味着 Google DeepMind 已公布相关政策，但表明 Legg 将更审慎的发布节奏视为严肃的治理选项：模型部署的速度，应与相应安全保障是否到位相匹配。2

他为何认为现在宣称“AGI 已实现”为时过早？

尽管英伟达和 OpenAI 的高管近期曾作出相关表态，Legg 仍认为，宣布 AGI 已经实现还为时过早。现有报道没有完整列出他对每一项能力缺口的直接解释，因此能得到的稳妥结论是：在 DeepMind 的标准下，他不认为当前系统已经达到 AGI。4

Google DeepMind 对 AGI 的描述是：具备人脑认知能力的系统。这一门槛远高于在少数基准测试或特定任务中表现出色；它要求更广泛的、通用的认知能力。13

不过，Legg 仍表示，他对自己长期以来的判断感到“安心”：到 2028 年，实现“最低水平 AGI”（minimal AGI）的概率为 50%。这是一项预测，并不是确定的时间表。210

首批文章讨论哪些问题？

DMI 的首发内容包括一篇导言及多篇专题文章，早期议题体现出其“安全之外还要讨论社会如何准备”的取向：

1. 推理透明度：Rohin Shah 与 Anca Dragan 主张保留可被人理解的模型推理过程，以便人类监测模型是否存在欺骗或谋划行为。11
2. AGI 经济政策：文章评估了 11 项可能的政策，用以应对日益先进且普及的 AI 可能带来的经济冲击；评估维度包括福祉、韧性、个体自主性与经济稳定。39
3. “新乌托邦主义”的原则：文章讨论 AGI 塑造的社会中，人类福祉可能意味着什么，同时提醒人们不要把“乌托邦”理解为对完美社会的承诺。37

研究院还列出第四篇专题文章《前沿 AI 与新时代曙光的框架》，与导言及上述三篇文章一同构成首发内容。4138

关键看点

Legg 的立场同时包含紧迫感与克制。他并不认为 AGI 已经到来，却依然给出 2028 年实现“最低水平 AGI”有 50% 概率的判断。其重点并非押注某个具体年份，而是提出一项治理要求：如果 AI 能力加速，理解、监督和塑造其部署方式的制度与技术，也必须加速。 1216

Shane Legg 的核心提醒很直接：AI 的能力进步，不能快过用于监测、约束和控制它的安全机制。 这位 Google DeepMind 联合创始人在推出 DeepMind Institute（DMI，DeepMind 研究院） 时提出了这一警告。该平台将聚焦人工通用智能（AGI）的部署及其带来的技术和社会影响。141

不是只问“AI 能做什么”，还要问“人类能否管得住”

Legg 所担心的，并不只是模型在单项任务上变得更强，而是监督、监测、治理与控制手段能否以足够快的速度跟上。若能力提升与安全控制脱节，越来越强大的系统就可能超出人类可管理的范围。1

这也是 DMI 的议题不局限于技术安全的原因。该机构希望推动跨学科研究、协作和讨论，回答 AGI 时代最关键的技术与社会问题：如何安全地构建和治理 AGI 系统及其可能形成的智能体群体；哪些社会制度与公共政策需要调整，甚至重新设计。16

DeepMind Institute 是什么？

DMI 更接近一个发表研究、汇集观点与推动讨论的平台，并非取代 Google DeepMind 核心 AI 研发工作的实验室。它计划连接 Google DeepMind 与外部研究社群，探讨能力不断提升的 AI 应如何被构建、治理、部署和使用。3642

其讨论范围覆盖科学、教育、社会、公共政策、哲学、经济、安全与人类福祉。换言之，问题不仅是如何降低重大风险，也包括：如果 AGI 得到广泛部署，社会应如何分配收益、适应冲击，并界定值得追求的共同目标。1636

对放慢前沿模型发布，Legg 认为“值得考虑”

对于 Anthropic 首席执行官达里奥·阿莫迪（Dario Amodei）提出的建议——放慢前沿 AI 模型的发布节奏，但不暂停发布——Legg 评价称，这一方向“很有意思”，也“值得考虑”。2

这并不意味着 Google DeepMind 已公布相关政策，但表明 Legg 将更审慎的发布节奏视为严肃的治理选项：模型部署的速度，应与相应安全保障是否到位相匹配。2

他为何认为现在宣称“AGI 已实现”为时过早？

尽管英伟达和 OpenAI 的高管近期曾作出相关表态，Legg 仍认为，宣布 AGI 已经实现还为时过早。现有报道没有完整列出他对每一项能力缺口的直接解释，因此能得到的稳妥结论是：在 DeepMind 的标准下，他不认为当前系统已经达到 AGI。4

Google DeepMind 对 AGI 的描述是：具备人脑认知能力的系统。这一门槛远高于在少数基准测试或特定任务中表现出色；它要求更广泛的、通用的认知能力。13

不过，Legg 仍表示，他对自己长期以来的判断感到“安心”：到 2028 年，实现“最低水平 AGI”（minimal AGI）的概率为 50%。这是一项预测，并不是确定的时间表。210

首批文章讨论哪些问题？

DMI 的首发内容包括一篇导言及多篇专题文章，早期议题体现出其“安全之外还要讨论社会如何准备”的取向：

1. 推理透明度：Rohin Shah 与 Anca Dragan 主张保留可被人理解的模型推理过程，以便人类监测模型是否存在欺骗或谋划行为。11
2. AGI 经济政策：文章评估了 11 项可能的政策，用以应对日益先进且普及的 AI 可能带来的经济冲击；评估维度包括福祉、韧性、个体自主性与经济稳定。39
3. “新乌托邦主义”的原则：文章讨论 AGI 塑造的社会中，人类福祉可能意味着什么，同时提醒人们不要把“乌托邦”理解为对完美社会的承诺。37

研究院还列出第四篇专题文章《前沿 AI 与新时代曙光的框架》，与导言及上述三篇文章一同构成首发内容。4138

关键看点

Legg 的立场同时包含紧迫感与克制。他并不认为 AGI 已经到来，却依然给出 2028 年实现“最低水平 AGI”有 50% 概率的判断。其重点并非押注某个具体年份，而是提出一项治理要求：如果 AI 能力加速，理解、监督和塑造其部署方式的制度与技术，也必须加速。 1216