联合国首份AI安全报告：五大关键风险与全球治理的力不从心

欺骗性AI行为。 联合国科学咨询委员会将AI欺骗定义为：AI系统在其所知、所意图或所能为之事上误导人类或其他系统的行为——这有别于普通的错误或“幻觉”。此类行为的证据已在广泛使用的AI系统中出现，并且随着AI能力越来越强、自主性越来越高、越来越深入地嵌入日常决策，这种风险预计还将增加。

信息完整性侵蚀。 报告指出，AI驱动的音频和视频伪造与操纵技术，对信息完整性构成了直接威胁，加剧了社会极化，并削弱了公众对公共话语的信任。

对心理健康与福祉的损害。 由通用人工智能导致的若干危害已经非常明确。其中包括诈骗、非自愿私密影像（NCII）以及儿童性虐待材料（CSAM）——所有这些都直接损害人们的心理健康。

网络安全与欺诈风险。 目前，用于评估AI相关网络安全威胁和欺诈预防风险的标准化方法仍然有限，这给防御能力留下了关键空白。

全球治理的鸿沟

该报告强调了一个根本性的结构问题：人工智能的进步速度超过了科学和监管，而目前国际上缺乏权威的制度化职能来独立评估AI风险。大多数国家根本不具备评估先进AI模型的能力，这进一步拉大了少数具备AI能力的国家/公司与世界其他国家之间的差距。

这个差距并非假设。报告指出，政策制定者们面临着一个日益严峻的困境：他们需要科学证据来治理AI，但AI的能力本身却在超越科学。

委员会如何运作：AI领域的“IPCC”

该委员会明确仿照了政府间气候变化专门委员会（IPCC）以及生物多样性和生态系统服务政府间科学政策平台（IPBES）的运作模式。在这种科学-政策模型下，各国政府帮助定义委员会需要研究的问题，但科学家们则全权负责评估证据、起草报告，并维护科学结论的完整性。

关键结构细节：

• 职责范围： 委员会受命每年发布一份关于AI机遇、风险和影响的循证科学报告。它也可就关切的问题准备专题简报。
• 局限性： 委员会负责评估和综合科学证据——它不制定规则，不创设具有约束力的法规，也不强制执行政策。
• 成员构成： 由40位来自不同背景的顶尖科学家和专家组成，他们以个人身份任职。
• 启动工作： 委员会在2026年7月截止日期之前召开了首次线下峰会，并开始了第一份报告的编写工作。

全球人工智能治理对话将做什么

首份年度报告将在2026年7月6日至7日于日内瓦举行的首届全球人工智能治理对话上正式提交。该全球对话根据联合国大会第A/RES/79/325号决议与委员会一同设立，是一个为政府及所有相关利益方提供讨论AI治理的平台。其职责包括弥合AI领域的鸿沟、进行能力建设，以及推动从碎片化的政策向更协调一致的国际框架发展。

为何此事至关重要

该报告刻意保持非指令性：它不推荐具体的政策或法规。其力量在于建立一个可信、独立且被国际广泛接受的证据基础，供各国政府、监管机构和公众在为AI风险做出知情决策时使用。正如联合国秘书长安东尼奥·古特雷斯所言，世界迫切需要“对人工智能形成一个共享的、全球性的理解；其基础并非意识形态，而是科学；并非虚假新闻，而是知识”。