冯德莱恩在欧盟盟情咨文中传递的重点,并非让所有人工智能发展一律“踩刹车”,而是一套分层推进的策略:对能力最强、风险也最高的前沿AI模型更审慎;对儿童接触数字服务强化保护;对能提升产业竞争力和安全能力的AI应用则加速落地。
1
前沿模型:讨论如何“放慢前沿”,不是立即全面禁令
冯德莱恩表示,她将邀请主要前沿AI实验室进行讨论,研究公共部门如何支持业界正在进行的“放慢前沿”(pace the frontier)努力。这里所说的是围绕安全措施和发展节奏展开对话与协作,并不等同于欧盟立即实施AI研发暂停令,也不是对所有AI产品的一刀切禁令。
1
6
她的担忧集中在能力持续增强、包括可能自我改进或自我递归的模型上。她警告,这类系统或可带来过去难以想象规模的黑客攻击能力,并可能很快落入敌对方之手。
1
15
这一表态也置身于科技业对前沿AI发展速度的争论之中。路透社报道,Anthropic首席执行官达里奥·阿莫代伊曾主张放慢高级AI的发展,获得OpenAI首席执行官萨姆·奥尔特曼和埃隆·马斯克的支持;但这类警告也引发争议:究竟是适度的审慎原则,还是过度渲染所谓“AI末日论”。
17
冯德莱恩还提出,欧盟应与加拿大、英国及其他理念相近的伙伴深化AI安全合作,涵盖前沿模型评估及相关安全措施。
9
《欧盟儿童法案》:按年龄划分数字服务访问权限
欧盟委员会拟议的《欧盟儿童法案》不只涉及传统社交媒体,也拟覆盖视频分享平台、网络游戏和AI聊天机器人,并针对不同年龄段设置不同的保护措施。需要注意的是,这是一项提案,本身并不意味着规则已即时生效。
1
目前披露的安排包括:
- 13岁以下儿童不得使用社交媒体。
1
- 13岁至未满15岁的青少年,只能使用由家长开设和监管的受限账户,其功能和使用时长将受到限制。
1
- 面向15至18岁用户的平台,须履行“安全内建”(safe by design)义务。
这项设计的关键在于,责任不再只由儿童和家长承担。平台也要从产品设计阶段纳入儿童安全考量。有关该提案的报道显示,企业预计需要核验用户年龄,并处理无限滚动等可能造成沉迷的产品功能。
7
工业AI:在五大高价值领域加速应用
在对前沿风险更为谨慎的同时,冯德莱恩将AI定位为欧洲经济与安全的基础性技术。她提及自动驾驶和国防等应用,并强调欧洲应从这项技术中获得切实价值。
1
欧盟委员会确定了五个工业AI潜力大、且欧洲拥有相关数据和能力基础的重点领域:
- 医疗健康
- 交通运输
- 农业食品
- 先进制造
- 国防与太空
1
欧盟委员会表示,将在11月公布覆盖这些领域的“改变游戏规则”的举措。
1
这套政策意味着什么?
整体看,欧盟的方向是一套“双轨策略”:在技术前沿,推动更严格的评估、更广泛的国际协调,以及对高风险能力跃升更注重安全的发展节奏;在实体经济和公共服务中,则力图加快AI在战略产业中的实际应用。
1
9
因此,这并不是“放慢所有AI”的主张。欧盟想做的是:对前沿模型设立更高的审慎门槛,同时推动AI在产业、公共服务与安全相关场景中更快产生效益。
1