聯合國首份AI安全報告出爐：5大風險曝光，全球監管點解追唔上？

AI欺騙行為。 聯合國科學顧問委員會將AI欺騙定義為AI系統誤導人或者其他系統，令佢哋對系統知道啲乜、打算做啲乜、或者能夠做啲乜產生錯誤理解——同一般嘅錯誤或者幻覺唔同 。呢種行為已經喺廣泛使用嘅AI系統中出現過，而且風險預計會隨住AI變得越嚟越有能力、越嚟越自主、越嚟越融入日常決策而增加 。

資訊真偽受侵蝕。 報告指出，AI可以偽造同操縱音訊同影片，直接威脅資訊嘅真實性，加劇社會兩極化，削弱公眾對公共討論嘅信任 。

心理健康同福祉受損。 通用AI帶嚟嘅幾種傷害已經好明確，包括詐騙、未經同意嘅親密影像（NCII）同兒童性虐待材料（CSAM），呢啲全部都直接損害心理健康 。

網絡安全同詐騙風險。 目前評估AI相關網絡安全威脅同防騙嘅標準化方法仍然有限，令防範能力出現重大缺口 。

全球管治嘅鴻溝

報告強調一個根本性嘅結構問題：AI進展快過科學同監管，而且目前國際上冇任何權威機構可以獨立評估AI風險 。大多數國家根本冇能力評估先進AI模型，令少數擁有AI能力嘅國家同企業，同世界其他地方之間嘅差距越拉越大 。

呢個鴻溝唔係空談。報告指出，政策制定者面對一個日益嚴峻嘅困境：佢哋需要科學證據去管治AI，但AI嘅能力本身已經超越咗科學嘅進展 。

小組點樣運作：AI版嘅IPCC

呢個小組係明確以政府間氣候變化專門委員會（IPCC）同生物多樣性同生態系統服務政府間科學政策平台（IPBES）為藍本 。呢種科學-政策模式意味住政府可以幫手定義小組要研究嘅問題，但科學家保留評估證據、撰寫報告同維護科學結論完整性嘅全部責任 。

關鍵結構細節：

• 職責範圍： 小組嘅任務係每年製作一份基於證據嘅科學報告，涵蓋AI嘅機遇、風險同影響。必要時仲可以就特定問題撰寫主題簡報 。
• 限制： 小組只負責評估同綜合科學知識——佢唔會制定規則、唔會創建有約束力嘅法規，亦唔會執行政策 。
• 組成： 40位來自不同背景嘅頂尖科學家同專家，以個人身份參與 。
• 首份工作： 小組喺2026年7月限期前，已經召開咗首次實體峰會並開始撰寫第一份報告 。

全球人工智能管治對話會做啲乜？

首份年度報告將會喺2026年7月6日至7日，喺日內瓦舉行嘅首屆全球人工智能管治對話上正式提交 。呢個全球對話係同小組一齊，根據聯合國大會決議A/RES/79/325設立嘅，係一個畀政府同所有相關持份者討論AI管治嘅平台 。佢嘅任務包括填補AI鴻溝、能力建設，以及將碎片化嘅政策整合成更一致嘅國際框架 。

點解呢份報告咁重要？

呢份報告刻意唔提出具體建議：佢冇推薦特定政策或法規 。佢嘅力量在於建立一個可信、獨立、國際公認嘅證據庫，畀政府、監管機構同公眾可以用嚟做關於AI風險嘅明智決定 。正如聯合國秘書長安東尼奧·古特雷斯所講，世界急需「一個共享嘅、全球性嘅人工智能理解；呢個理解要建基於科學，唔係意識形態；建基於知識，唔係假新聞」。