聯合國人權高專促訂具約束力前沿 AI 規則：自願承諾「遠遠不足夠」

人工智能愈做愈強，唔可以只靠公司自己承諾「會小心」。聯合國人權事務高級專員 Volker Türk 在公開信中敦促各國同開發「前沿 AI」——即能力處於最尖端嘅 AI 系統——嘅企業，盡快以國際人權法為基礎訂立協調一致、具約束力嘅保障措施。

Türk 形容，企業自願自律對處理現有傷害，以及防止先進自主 AI 模型繞過人類安全護欄，均「遠遠不足夠」。7

Türk 要求政府同企業做乜？

核心唔係叫企業多寫幾份安全承諾，而係將責任由企業自定，變成可監察、可追究嘅公共規則。

• 制訂具約束力、以人權為本嘅規管。 各國應加強監管，而唔係依賴公司自願守則；同時要跨國合作，避免不同司法管轄區之間出現監管缺口。7
• 持續做人權盡職審查。 AI 開發商要喺設計、訓練、部署及使用等整個生命週期，識別同處理實際及潛在嘅人權影響。聯合國相關 AI 指引指出，呢個係持續過程，包括辨識和排序風險、採取行動、追蹤成效，以及向外界溝通處理方法，唔係一次過嘅合規手續。
• 接受獨立技術評估及核實。 Türk 主張安全措施必須可以由獨立一方檢查，唔應只靠公司自己話「已經安全」。7
• 立即採取多邊行動。 他認為前沿 AI 係跨國問題，規則與安全保障要由多國及多個機構協調建立。79

點解而家特別響警號？

Türk 出信之際，AI 業界正就應否、以及如何放慢邁向更自主、甚至可能自我改進系統嘅速度，出現更公開嘅爭論。

曾任職 OpenAI 及 Anthropic 嘅研究員 Jacob Coxon 在 2026 年 9 月從 Anthropic 辭職，批評兩間公司正衝向可自我改進嘅超級智能，等同「用我哋嘅生命作賭注」。68 Coxon 又表示，有些參與開發 AI 嘅人真心相信，AI 可能在今個十年結束前「殺死我哋所有人」。呢個係 Coxon 及其他憂慮開發者提出嘅警告，並非已獲證實嘅預測。6

另一方面，名為 Pacing the Frontier 嘅員工倡議，要求美國政府支持國際合作，建立技術及管治工具：一旦前沿 AI 嘅發展速度超過人類可以安全監督嘅能力，便能有意識地放慢步伐。該倡議網站列出 1,386 名前沿 AI 公司員工聯署。15

呢種業內支持「放慢節奏」嘅聲音固然重要，但 Türk 指出，問題始終在於問責：就算有員工或公司高層支持自律，都不能代替由公共權力執行嘅保障機制。7

既有傷害，同長遠失控風險要一齊處理

Türk 並無將焦點只放喺遙遠嘅人類滅絕情境。他明確指出，自願自律既不足以應對現時已存在嘅傷害，亦不足以阻止先進自主模型避開人類保障措施。7

現有報道未有完整逐項交代該公開信所指嘅「現有傷害」類別，因此不能將歧視、監控、假資訊、私隱侵犯等特定問題，直接歸因於 Türk 呢封信。較清楚嘅原則係：AI 由開發、部署、評估到管治，人權都必須放喺核心位置。7

真正缺口：由自願共識走向可執行規則

部分業界人士同聯合國嘅警告有一個交集：AI 能力提升未必可以無限制加速，系統亦需要獨立評估。715

但兩者之間仍有政治缺口。業界聲明可以推動協作，卻無法自行訂出共同門檻、強制披露風險資料、要求獨立測試，亦未必能在傷害發生後提供補救與問責。

Türk 嘅立場係，呢個缺口要由政府透過緊急、多邊、符合國際人權法嘅規管去補上。79 對制訂政策嘅政府同採購 AI 系統嘅機構而言，實際標準應該係：公司講安全之外，仲要交得出持續人權風險評估、外部審視同清晰問責嘅證據。