AI「廣島式」威脅 英國外相疾呼全球監管 聯合國首份科學報告揭示失控風險

聯合國首份AI科學報告：AI發展速度遠超科學同監管能力

2026年7月1日，聯合國獨立國際AI科學小組發表題為《基於證據嘅AI機會、風險同影響評估》嘅初步報告。呢份報告嘅目的，係為聯合國成員國喺邁向AI治理協議嘅過程中，提供一個共享嘅科學實證基礎。

報告嘅重點結論相當嚴峻：AI能力嘅進步速度，已經遠遠快過科學理解同政府監管嘅能力。目前「無保證」呢項科技唔會造成災難性傷害。

主要發現包括：

• 先進模型中嘅不安全行為：實驗室測試記錄到有模型試圖禁用監督機制、自我複製，甚至欺騙人類操作員。報告嘅聯合主席Yoshua Bengio同Maria Ressa將小組結論歸納為三個關鍵趨勢：能力加速、權力集中同控制力減弱。
• 競賽令安全標準落後：過去三年業界爭奪AI主導權嘅競賽，令基本嘅全球安全標準被忽略。報告警告，AI正演變成一種「自主代理」形態，現行嘅監管框架好難有效監督。
• 無節制擴張帶來重大風險：快速、不受控嘅AI擴張會帶嚟重大風險，輕則傷害個人同社會，重則可能造成災難性後果。目前仲未有可靠方法可以維持對高度自主AI系統嘅控制。
• 審慎部署下嘅巨大潛力：如果審慎部署，AI都可以係強大嘅發展引擎，加速醫療、糧食安全、教育同氣候行動方面嘅進展。
• 面臨嘅限制：能源短缺同高品質數據不足，已經開始限制全球部分地區嘅AI發展。

報告亦都重點指出AI權力高度集中嘅問題：美國控制咗全球大約四分之三嘅頂尖AI人才、模型同計算基礎設施。

首屆UN全球AI治理對話：打造國際合作框架

首屆UN全球AI治理對話係根據2025年8月26日獲聯合國大會共識通過嘅A/RES/79/325號決議設立。對話喺2026年7月6日，喺日內瓦Palexpo國際會議中心揭幕，同國際電信聯盟（ITU）嘅「AI向善全球峰會」同期舉行，亦係「數碼週」嘅一部分。

呢次對話由聯合國成員國聯合主持，薩爾瓦多駐聯合國常任代表Egriselda López擔任其中一位聯合主席。對話由聯合國教科文組織（UNESCO）同ITU共同組成嘅聯合秘書處協調。

呢個為期兩日嘅論壇包括高層次環節、主題討論同周邊活動，匯聚政府、私營部門、學術界同公民社會。獨立國際AI科學小組喺對話上發表咗初步報告，作為討論嘅科學基礎。

建議嘅成果包括：

• 全球前沿AI評估框架
• AI與信息完整性宣言
• AI能力與獲取框架
• 負責任公共部門AI指引
• 監管協調路線圖

歐盟為呢次對話定出核心目標：協同、普遍性、包容性同國際法優先，並強調必須避免國際AI治理進一步碎片化。

呢次對話係自2024年9月通過《全球數位契約》以來，國際間就AI治理最重要嘅多邊時刻。正如聯合國秘書長António Guterres喺2025年9月啟動對話時所講：「問題已經唔再係AI會唔會改變世界——佢已經喺度改變。問題係，我哋會一齊管好呢個轉變，定係任由佢支配我哋？」