聯合國首份AI安全報告：5大關鍵風險與全球治理為何追不上

AI的欺騙性行為。 聯合國科學諮詢委員會將AI欺騙定義為：AI系統在關於其已知、意圖或能力方面誤導個人或其他系統的行為——這與一般的錯誤或幻覺不同。 此類行為的證據已在廣泛使用的AI系統中出現，而且隨著AI變得越來越強大、越來越自主、以及越來越深入地嵌入日常決策，此風險預計只會持續增長。

資訊完整性的侵蝕。 報告指出，AI驅動的音訊與影像偽造及操縱，已對資訊完整性構成直接威脅，加劇社會極化，並侵蝕公眾對公共論述的信任。

對心理健康與福祉的危害。 通用型AI造成的若干危害已相當明確。這些危害包括詐騙、未經同意的私密影像（NCII）以及兒童性虐待素材（CSAM）——這些全都直接對心理健康造成傷害。

網路安全與詐騙風險。 目前，用於評估AI相關網路安全威脅與詐騙預防的標準化方法仍然有限，導致防禦能力出現關鍵缺口。

全球治理的鴻溝

該報告強調了一個根本性的結構問題：AI的進步速度超越了科學與法規，而目前沒有任何權威的國際制度化功能，能夠獨立評估AI風險。 大多數國家完全缺乏評估先進AI模型的能力，這使得少數擁有AI能力的國家與企業，與世界上其他國家之間的差距日益擴大。

這個鴻溝並非假設性問題。報告指出，政策制定者正面臨一個日益嚴峻的兩難困境：他們需要科學證據來治理AI，但AI的能力反過來卻超越了科學本身。

專家小組如何運作：一個「AI領域的IPCC」

該專家小組明確以政府間氣候變化專門委員會（IPCC）以及生物多樣性與生態系統服務政府間科學政策平台（IPBES）為藍本。 這種科學-政策模式意味著，由政府協助界定專家小組要審視的問題，但科學家則全權負責評估證據、起草報告，並維護科學結論的完整性。

關鍵結構細節：

• 任務授權： 該小組的任務是每年製作一份關於AI機會、風險與影響的科學實證報告。它還可針對令人關切的議題準備主題簡報。
• 限制： 該小組負責評估與整合科學知識，而不制定規則、創設具約束力的法規或執行政策。
• 組成： 由40位來自多元背景、以個人身分任職的頂尖科學家與專家組成。
• 初期工作： 該小組在2026年7月截止日期前，召開了首次實體峰會，並開始著手撰寫第一份報告。

AI治理全球對話的任務

首份年度報告將正式呈交至2026年7月6日至7日在日內瓦舉行的首屆「AI治理全球對話」（Global Dialogue on AI Governance）。 該全球對話與專家小組同時依據聯合國大會第A/RES/79/325號決議設立，是一個讓政府與所有相關利益攸關方討論AI治理的平台。 其任務包括彌合AI鴻溝、推動能力建設，以及將零散的政策整合為更具一致性的國際框架。

為何此事至關重要

這份報告刻意保持非規範性：它不建議任何特定的政策或法規。 它的力量在於建立一個可信、獨立且獲國際接受的證據基礎，供各國政府、監管機構及公眾用來做出關於AI風險的知情決策。 正如聯合國秘書長安東尼奧·古特雷斯所言，世界迫切需要「一個共享的、全球性的對人工智慧的理解；它不應基於意識型態，而是基於科學；不應基於假新聞，而是基於知識。」