联合国首份AI安全报告：五大关键风险与全球治理的力不从心

五大关键风险

该委员会的针对性分析指出了通用人工智能存在的几大基于证据的具体风险：

灾难性危害。 委员会警告称，如果放任不管，“无法保证”日益强大的人工智能系统不会造成灾难性危害。AI在科研能力方面的进步加剧了其被滥用的担忧，尤其是在生物武器开发领域。多家AI公司在2025年选择发布带有额外安全措施的新模型，因为在部署前测试中，无法排除这些模型会显著帮助新手开发此类武器的可能性。

欺骗性AI行为。 联合国科学咨询委员会将AI欺骗定义为：AI系统在其所知、所意图或所能为之事上误导人类或其他系统的行为——这有别于普通的错误或“幻觉”。此类行为的证据已在广泛使用的AI系统中出现，并且随着AI能力越来越强、自主性越来越高、越来越深入地嵌入日常决策，这种风险预计还将增加。

信息完整性侵蚀。 报告指出，AI驱动的音频和视频伪造与操纵技术，对信息完整性构成了直接威胁，加剧了社会极化，并削弱了公众对公共话语的信任。

对心理健康与福祉的损害。 由通用人工智能导致的若干危害已经非常明确。其中包括诈骗、非自愿私密影像（NCII）以及儿童性虐待材料（CSAM）——所有这些都直接损害人们的心理健康。

网络安全与欺诈风险。 目前，用于评估AI相关网络安全威胁和欺诈预防风险的标准化方法仍然有限，这给防御能力留下了关键空白。

全球治理的鸿沟

该报告强调了一个根本性的结构问题：人工智能的进步速度超过了科学和监管，而目前国际上缺乏权威的制度化职能来独立评估AI风险。大多数国家根本不具备评估先进AI模型的能力，这进一步拉大了少数具备AI能力的国家/公司与世界其他国家之间的差距。

这个差距并非假设。报告指出，政策制定者们面临着一个日益严峻的困境：他们需要科学证据来治理AI，但AI的能力本身却在超越科学。

委员会如何运作：AI领域的“IPCC”

该委员会明确仿照了政府间气候变化专门委员会（IPCC）以及生物多样性和生态系统服务政府间科学政策平台（IPBES）的运作模式。在这种科学-政策模型下，各国政府帮助定义委员会需要研究的问题，但科学家们则全权负责评估证据、起草报告，并维护科学结论的完整性。

关键结构细节：

• 职责范围： 委员会受命每年发布一份关于AI机遇、风险和影响的循证科学报告。它也可就关切的问题准备专题简报。
• 局限性： 委员会负责评估和综合科学证据——它不制定规则，不创设具有约束力的法规，也不强制执行政策。
• 成员构成： 由40位来自不同背景的顶尖科学家和专家组成，他们以个人身份任职。
• 启动工作： 委员会在2026年7月截止日期之前召开了首次线下峰会，并开始了第一份报告的编写工作。

全球人工智能治理对话将做什么

首份年度报告将在2026年7月6日至7日于日内瓦举行的首届全球人工智能治理对话上正式提交。该全球对话根据联合国大会第A/RES/79/325号决议与委员会一同设立，是一个为政府及所有相关利益方提供讨论AI治理的平台。其职责包括弥合AI领域的鸿沟、进行能力建设，以及推动从碎片化的政策向更协调一致的国际框架发展。

为何此事至关重要

该报告刻意保持非指令性：它不推荐具体的政策或法规。其力量在于建立一个可信、独立且被国际广泛接受的证据基础，供各国政府、监管机构和公众在为AI风险做出知情决策时使用。正如联合国秘书长安东尼奥·古特雷斯所言，世界迫切需要“对人工智能形成一个共享的、全球性的理解；其基础并非意识形态，而是科学；并非虚假新闻，而是知识”。