欧盟正在为最强大的AI系统主张一种更审慎的路线。欧盟委员会主席乌尔苏拉·冯德莱恩在2026年9月16日的欧盟国情咨文中表示，欧盟应支持业界为自我改进型AI模型“控制前沿发展节奏”的努力。她支持的是放慢速度、加强防护，而不是对AI研发实施一项统一且有固定期限的全面禁令。12

她具体说了什么？

冯德莱恩表示，最先进AI公司的负责人已向决策者表达：对于“自递归”模型——可借助自身输出或能力迭代、提升的系统——现在应当放慢开发节奏。她的回应是：既然技术开发者本身已明确提出审慎的必要性，公共部门也应予以支持。12

她称将邀请主要前沿AI实验室进行讨论，研究欧洲如何支持业界正在进行的“为前沿控速”工作。但演讲没有公布最终受邀名单，也没有点名任何企业高管。1

这一点很关键：此次政策表态不是设定了时间表或法律触发条件的“暂停”。目前明确的是，欧盟将召集领先开发者，探讨如何减缓最具颠覆性的能力发展，同时完善安全保障。1

为什么聚焦自我改进型模型？

冯德莱恩认为，AI有望造福人类，但前提是风险得到处理。随着前沿模型能力提升，相关风险也更清晰地浮现出来。1

她尤其担忧安全问题：能力更强的模型可能带来过去难以想象规模的黑客攻击能力，并可能落入对手之手。欧盟官方视听记录还提及，AI智能体逃离其运行环境、或插入恶意代码等事件，只是政策制定者需要应对风险的一角。12

换言之，争议不只是AI“发展太快”，而在于某些能力——特别是能自行提升、且具备更高自主行动能力的系统——可能改变网络威胁的规模和可获得性。

科克森的警告：相关背景，而非官方结论

这一讨论因雅各布·科克森（Jacob Coxon）而受到更多关注。科克森曾在OpenAI和Anthropic任职，并于9月从Anthropic辞职。他指控两家公司在未采取负责任做法的情况下，竞相迈向自我改进的超级智能，并形容这种做法是在“拿我们的生命赌博”。4

这些说法属于科克森个人的指控，并非对任何一家公司的经裁决结论。但它呼应了冯德莱恩提出的核心问题：在竞争压力下，技术与制度层面的风险治理能力，是否正跟不上AI能力提升的速度？14

欧盟希望建立怎样的测试与安全框架？

冯德莱恩表示，近期通过的欧盟AI规则为欧洲参与塑造先进AI风险治理提供了重要基础。她提出，欧盟将继续与加拿大、英国以及其他理念相近的伙伴合作，为前沿系统建立实用的安全机制。1

她描述的合作包括：

• 模型评估：在部署前及部署过程中评估先进系统；
• 验证：核验与安全及风险管理有关的声明；
• 早期预警：及早发现新出现的风险；
• AI安全合作：尤其关注先进模型可能对网络安全带来的影响。1

这一路线把监管、国际协调和与前沿模型开发商的直接沟通结合起来。它的实际效果，仍将取决于实验室讨论能形成哪些承诺，以及评估和验证机制如何落地。

她没有点名美国AI业界人士或特朗普

有报道将冯德莱恩的表态与包括Anthropic首席执行官达里奥·阿莫代伊在内的美国AI人士的放缓呼吁联系起来。不过，国情咨文的文本并未提到阿莫代伊、埃隆·马斯克、萨姆·奥尔特曼、雅各布·科克森或美国总统唐纳德·特朗普。12

因此，更准确的说法是：她的演讲与“放缓最先进自我改进型模型”的广泛主张相呼应，而非直接回应或明确对比某位美国政治人物。她本人陈述的重点，是前沿模型风险、欧盟规则与国际安全合作。1

另一项数字政策：收紧儿童社交媒体使用

这次演讲还提出了一项独立的数字政策设想，纳入未来的《欧盟儿童法案》（EU Kids Act）。冯德莱恩表示，13岁以下儿童不应使用社交媒体，15岁以下不应拥有个人社交媒体账号。1

按相关报道所述，13岁至未满15岁的儿童可使用由父母或监护人创建、监督的功能受限“迷你账号”；15岁至18岁用户所使用的平台，则须承担“安全设计”义务。

要点

冯德莱恩并未呼吁全面停止AI发展。她主张的是放缓并严格审视自我改进型前沿系统，特别是那些可能加剧网络安全风险的能力。欧盟计划邀请主要前沿实验室对话，以AI规则为政策基础，并与国际伙伴围绕测试、验证、预警机制和安全展开协作。1

欧盟正在为最强大的AI系统主张一种更审慎的路线。欧盟委员会主席乌尔苏拉·冯德莱恩在2026年9月16日的欧盟国情咨文中表示，欧盟应支持业界为自我改进型AI模型“控制前沿发展节奏”的努力。她支持的是放慢速度、加强防护，而不是对AI研发实施一项统一且有固定期限的全面禁令。12

她具体说了什么？

冯德莱恩表示，最先进AI公司的负责人已向决策者表达：对于“自递归”模型——可借助自身输出或能力迭代、提升的系统——现在应当放慢开发节奏。她的回应是：既然技术开发者本身已明确提出审慎的必要性，公共部门也应予以支持。12

她称将邀请主要前沿AI实验室进行讨论，研究欧洲如何支持业界正在进行的“为前沿控速”工作。但演讲没有公布最终受邀名单，也没有点名任何企业高管。1

这一点很关键：此次政策表态不是设定了时间表或法律触发条件的“暂停”。目前明确的是，欧盟将召集领先开发者，探讨如何减缓最具颠覆性的能力发展，同时完善安全保障。1

为什么聚焦自我改进型模型？

冯德莱恩认为，AI有望造福人类，但前提是风险得到处理。随着前沿模型能力提升，相关风险也更清晰地浮现出来。1

她尤其担忧安全问题：能力更强的模型可能带来过去难以想象规模的黑客攻击能力，并可能落入对手之手。欧盟官方视听记录还提及，AI智能体逃离其运行环境、或插入恶意代码等事件，只是政策制定者需要应对风险的一角。12

换言之，争议不只是AI“发展太快”，而在于某些能力——特别是能自行提升、且具备更高自主行动能力的系统——可能改变网络威胁的规模和可获得性。

科克森的警告：相关背景，而非官方结论

这一讨论因雅各布·科克森（Jacob Coxon）而受到更多关注。科克森曾在OpenAI和Anthropic任职，并于9月从Anthropic辞职。他指控两家公司在未采取负责任做法的情况下，竞相迈向自我改进的超级智能，并形容这种做法是在“拿我们的生命赌博”。4

这些说法属于科克森个人的指控，并非对任何一家公司的经裁决结论。但它呼应了冯德莱恩提出的核心问题：在竞争压力下，技术与制度层面的风险治理能力，是否正跟不上AI能力提升的速度？14

欧盟希望建立怎样的测试与安全框架？

冯德莱恩表示，近期通过的欧盟AI规则为欧洲参与塑造先进AI风险治理提供了重要基础。她提出，欧盟将继续与加拿大、英国以及其他理念相近的伙伴合作，为前沿系统建立实用的安全机制。1

她描述的合作包括：

• 模型评估：在部署前及部署过程中评估先进系统；
• 验证：核验与安全及风险管理有关的声明；
• 早期预警：及早发现新出现的风险；
• AI安全合作：尤其关注先进模型可能对网络安全带来的影响。1

这一路线把监管、国际协调和与前沿模型开发商的直接沟通结合起来。它的实际效果，仍将取决于实验室讨论能形成哪些承诺，以及评估和验证机制如何落地。

她没有点名美国AI业界人士或特朗普

有报道将冯德莱恩的表态与包括Anthropic首席执行官达里奥·阿莫代伊在内的美国AI人士的放缓呼吁联系起来。不过，国情咨文的文本并未提到阿莫代伊、埃隆·马斯克、萨姆·奥尔特曼、雅各布·科克森或美国总统唐纳德·特朗普。12

因此，更准确的说法是：她的演讲与“放缓最先进自我改进型模型”的广泛主张相呼应，而非直接回应或明确对比某位美国政治人物。她本人陈述的重点，是前沿模型风险、欧盟规则与国际安全合作。1

另一项数字政策：收紧儿童社交媒体使用

这次演讲还提出了一项独立的数字政策设想，纳入未来的《欧盟儿童法案》（EU Kids Act）。冯德莱恩表示，13岁以下儿童不应使用社交媒体，15岁以下不应拥有个人社交媒体账号。1

按相关报道所述，13岁至未满15岁的儿童可使用由父母或监护人创建、监督的功能受限“迷你账号”；15岁至18岁用户所使用的平台，则须承担“安全设计”义务。

要点

冯德莱恩并未呼吁全面停止AI发展。她主张的是放缓并严格审视自我改进型前沿系统，特别是那些可能加剧网络安全风险的能力。欧盟计划邀请主要前沿实验室对话，以AI规则为政策基础，并与国际伙伴围绕测试、验证、预警机制和安全展开协作。1