聯合國首份AI安全報告：5大關鍵風險與全球治理為何追不上

2026年7月1日，聯合國獨立國際人工智慧科學小組（Independent International Scientific Panel on AI）發布了首份具里程碑意義的報告，提供了全球第一個獨立、科學化的AI評估。 這份由40位頂尖科學家與專家共同撰寫的報告，描繪出一幅嚴峻的圖景：AI的發展正迅速超越科學的理解與政府的政策，形成了無人管理的重大風險，可能導致災難性後果。

這份報告將在2026年7月6日至7日於日內瓦舉行的首屆「AI治理全球對話」（Global Dialogue on AI Governance）上，正式提交給各國政府。

五大關鍵風險

專家小組的分析聚焦於通用型AI所帶來的數項具體、有科學證據支撐的風險：

災難性危害。 專家小組警告，如果放任不管，「無法保證」日益強大的人工智慧系統不會造成災難性損害。 AI在科學能力上的進展，加劇了人們對其被濫用於生物武器開發的擔憂。多家AI公司在2025年選擇在推出新模型時增加額外的安全防護，因為部署前的測試無法排除這些模型有意義地幫助新手開發此類武器的可能性。

AI的欺騙性行為。 聯合國科學諮詢委員會將AI欺騙定義為：AI系統在關於其已知、意圖或能力方面誤導個人或其他系統的行為——這與一般的錯誤或幻覺不同。 此類行為的證據已在廣泛使用的AI系統中出現，而且隨著AI變得越來越強大、越來越自主、以及越來越深入地嵌入日常決策，此風險預計只會持續增長。

資訊完整性的侵蝕。 報告指出，AI驅動的音訊與影像偽造及操縱，已對資訊完整性構成直接威脅，加劇社會極化，並侵蝕公眾對公共論述的信任。

對心理健康與福祉的危害。 通用型AI造成的若干危害已相當明確。這些危害包括詐騙、未經同意的私密影像（NCII）以及兒童性虐待素材（CSAM）——這些全都直接對心理健康造成傷害。

網路安全與詐騙風險。 目前，用於評估AI相關網路安全威脅與詐騙預防的標準化方法仍然有限，導致防禦能力出現關鍵缺口。

全球治理的鴻溝

該報告強調了一個根本性的結構問題：AI的進步速度超越了科學與法規，而目前沒有任何權威的國際制度化功能，能夠獨立評估AI風險。 大多數國家完全缺乏評估先進AI模型的能力，這使得少數擁有AI能力的國家與企業，與世界上其他國家之間的差距日益擴大。

這個鴻溝並非假設性問題。報告指出，政策制定者正面臨一個日益嚴峻的兩難困境：他們需要科學證據來治理AI，但AI的能力反過來卻超越了科學本身。

專家小組如何運作：一個「AI領域的IPCC」

該專家小組明確以政府間氣候變化專門委員會（IPCC）以及生物多樣性與生態系統服務政府間科學政策平台（IPBES）為藍本。 這種科學-政策模式意味著，由政府協助界定專家小組要審視的問題，但科學家則全權負責評估證據、起草報告，並維護科學結論的完整性。

關鍵結構細節：

• 任務授權： 該小組的任務是每年製作一份關於AI機會、風險與影響的科學實證報告。它還可針對令人關切的議題準備主題簡報。
• 限制： 該小組負責評估與整合科學知識，而不制定規則、創設具約束力的法規或執行政策。
• 組成： 由40位來自多元背景、以個人身分任職的頂尖科學家與專家組成。
• 初期工作： 該小組在2026年7月截止日期前，召開了首次實體峰會，並開始著手撰寫第一份報告。

AI治理全球對話的任務

首份年度報告將正式呈交至2026年7月6日至7日在日內瓦舉行的首屆「AI治理全球對話」（Global Dialogue on AI Governance）。 該全球對話與專家小組同時依據聯合國大會第A/RES/79/325號決議設立，是一個讓政府與所有相關利益攸關方討論AI治理的平台。 其任務包括彌合AI鴻溝、推動能力建設，以及將零散的政策整合為更具一致性的國際框架。

為何此事至關重要

這份報告刻意保持非規範性：它不建議任何特定的政策或法規。 它的力量在於建立一個可信、獨立且獲國際接受的證據基礎，供各國政府、監管機構及公眾用來做出關於AI風險的知情決策。 正如聯合國秘書長安東尼奧·古特雷斯所言，世界迫切需要「一個共享的、全球性的對人工智慧的理解；它不應基於意識型態，而是基於科學；不應基於假新聞，而是基於知識。」