联合国安理会此次简报预计将把先进人工智能定位为一项国际安全议题:既要防范恶意行为者滥用技术,也要正视开发者可能无法继续有效控制能力不断增强的系统,并探索共同安全标准与跨境防护机制。不过,四位发言人的具体表述尚未提前公开。法国以安理会“维护国际和平与安全”议程召集了9月23日的会议。
10
四位嘉宾可能强调什么
OpenAI首席执行官萨姆·奥特曼、Anthropic首席执行官达里奥·阿莫代伊、AI研究者约书亚·本吉奥,以及Hugging Face首席执行官克莱芒·德朗格,预计会主张:前沿模型的安全不能只交给单个公司或单一国家处理,而需要国际协调。
这类协调可能包括统一风险评估、共享危险能力与安全事件的信息、由独立机构开展测试,以及防止模型被武器化或用于其他恶意用途的防护措施。会议明确聚焦AI对国际安全带来的风险。
10
竞争对手互测:合作的一个有限样本
OpenAI与Anthropic此前公布过一次联合评估:双方分别用各自内部的安全与“失配”评估方法,测试对方已公开发布的模型,并公开了结果。
15
这种交叉审查的意义在于,模型开发者未必能看见自己体系中的全部盲点;由竞争对手以不同方法测试,可能更容易暴露风险。但它也划出一道敏感边界:企业需要提供足以支持有效测试的访问权限和安全信息,同时又必须避免交流产品路线图、模型发布时间、价格,或技术推进速度等竞争敏感信息。
为什么反垄断问题被推到台前
一宗拟议的消费者集体诉讼指控Anthropic、OpenAI、SpaceXAI和Google非法约定放慢AI研发。需要强调的是,这只是诉讼中的指控,并非法院已经作出的事实认定。
1
该案折射出一个结构性矛盾:在安全倡导者看来,共同设定发布门槛或暂缓推进,可能是谨慎的风险管理;但原告可能将同一做法描述为主导竞争者共同限制产出的行为。相比之下,针对已披露模型、且范围明确的技术安全测试和交叉评估,更容易与共同决定“何时发布、以多快速度升级模型”区分开来。
与特朗普在联合国的立场形成对照
安理会讨论的基本逻辑,是将前沿AI风险视为需要集体行动和国际防护机制应对的问题。特朗普在联合国大会上的表态则呈现相反的政治取向:他反对国际层面的AI管控,将安全警告称为骗局,强调美国在AI竞赛中的优势,并表示联邦政府将使用“超级智能”而非“人工智能”这一称呼。
3
相关报道还称,这一名称调整将适用于美国政府的官方沟通。
2
归根结底,法国推动的议程希望以共同规则避免各方在安全上“向下竞争”;特朗普的立场则将约束更多视为对美国技术竞争力的阻碍。真正尚待解决的问题是:如何让安全合作保持范围狭窄、过程可审计,同时不让它演变成竞争对手之间事实上的市场协调。