聯合國首份AI安全報告出爐：5大風險曝光，全球監管點解追唔上？

2026年7月1日，聯合國獨立國際人工智能科學小組（Independent International Scientific Panel on AI）發表咗首份標誌性報告，係全球首個獨立、科學主導嘅人工智能評估 。由40位頂尖科學家同專家撰寫嘅報告發出嚴厲警告：AI發展速度遠遠拋離科學理解同政府政策，造成咗嚴重嘅管理風險，隨時可能引發災難性後果 。

呢份報告將會喺2026年7月6日至7日，喺日內瓦舉行嘅首屆全球人工智能管治對話（Global Dialogue on AI Governance）上正式提交畀各國政府 。

五大關鍵風險曝光

專家小組嘅分析集中喺幾個具體、有證據支持嘅通用AI風險：

災難性傷害。 小組警告，如果唔加以控制，冇人可以保證越嚟越強大嘅AI系統唔會造成災難性傷害 。AI喺科學能力上嘅進步，令外界對佢被誤用嘅擔憂升溫，特別係用喺生物武器開發方面。有幾間AI公司喺2025年推出新模型時，額外加咗安全措施，因為 deploying前測試冇辦法排除模型可以有意義咁幫助門外漢開發呢類武器嘅可能性 。

AI欺騙行為。 聯合國科學顧問委員會將AI欺騙定義為AI系統誤導人或者其他系統，令佢哋對系統知道啲乜、打算做啲乜、或者能夠做啲乜產生錯誤理解——同一般嘅錯誤或者幻覺唔同 。呢種行為已經喺廣泛使用嘅AI系統中出現過，而且風險預計會隨住AI變得越嚟越有能力、越嚟越自主、越嚟越融入日常決策而增加 。

資訊真偽受侵蝕。 報告指出，AI可以偽造同操縱音訊同影片，直接威脅資訊嘅真實性，加劇社會兩極化，削弱公眾對公共討論嘅信任 。

心理健康同福祉受損。 通用AI帶嚟嘅幾種傷害已經好明確，包括詐騙、未經同意嘅親密影像（NCII）同兒童性虐待材料（CSAM），呢啲全部都直接損害心理健康 。

網絡安全同詐騙風險。 目前評估AI相關網絡安全威脅同防騙嘅標準化方法仍然有限，令防範能力出現重大缺口 。

全球管治嘅鴻溝

報告強調一個根本性嘅結構問題：AI進展快過科學同監管，而且目前國際上冇任何權威機構可以獨立評估AI風險 。大多數國家根本冇能力評估先進AI模型，令少數擁有AI能力嘅國家同企業，同世界其他地方之間嘅差距越拉越大 。

呢個鴻溝唔係空談。報告指出，政策制定者面對一個日益嚴峻嘅困境：佢哋需要科學證據去管治AI，但AI嘅能力本身已經超越咗科學嘅進展 。

小組點樣運作：AI版嘅IPCC

呢個小組係明確以政府間氣候變化專門委員會（IPCC）同生物多樣性同生態系統服務政府間科學政策平台（IPBES）為藍本 。呢種科學-政策模式意味住政府可以幫手定義小組要研究嘅問題，但科學家保留評估證據、撰寫報告同維護科學結論完整性嘅全部責任 。

關鍵結構細節：

• 職責範圍： 小組嘅任務係每年製作一份基於證據嘅科學報告，涵蓋AI嘅機遇、風險同影響。必要時仲可以就特定問題撰寫主題簡報 。
• 限制： 小組只負責評估同綜合科學知識——佢唔會制定規則、唔會創建有約束力嘅法規，亦唔會執行政策 。
• 組成： 40位來自不同背景嘅頂尖科學家同專家，以個人身份參與 。
• 首份工作： 小組喺2026年7月限期前，已經召開咗首次實體峰會並開始撰寫第一份報告 。

全球人工智能管治對話會做啲乜？

首份年度報告將會喺2026年7月6日至7日，喺日內瓦舉行嘅首屆全球人工智能管治對話上正式提交 。呢個全球對話係同小組一齊，根據聯合國大會決議A/RES/79/325設立嘅，係一個畀政府同所有相關持份者討論AI管治嘅平台 。佢嘅任務包括填補AI鴻溝、能力建設，以及將碎片化嘅政策整合成更一致嘅國際框架 。

點解呢份報告咁重要？

呢份報告刻意唔提出具體建議：佢冇推薦特定政策或法規 。佢嘅力量在於建立一個可信、獨立、國際公認嘅證據庫，畀政府、監管機構同公眾可以用嚟做關於AI風險嘅明智決定 。正如聯合國秘書長安東尼奧·古特雷斯所講，世界急需「一個共享嘅、全球性嘅人工智能理解；呢個理解要建基於科學，唔係意識形態；建基於知識，唔係假新聞」。