OpenAI、Anthropic 同 Google DeepMind 傳商討 AI 安全合作

據報 OpenAI、Anthropic 同 Alphabet 旗下 Google DeepMind 正討論就 AI 安全展開合作。對 AI 業界而言，呢件事嘅重點唔止係「會唔會合作」，而係幾間正面競爭、爭住推出更強模型嘅公司，可唔可以一齊做安全措施，同時又唔會藉此影響市場競爭。

路透引述彭博報道指，三間公司正探討將 AI 安全置於優先位置。路透表明未能獨立核實該報道，而 OpenAI、Alphabet 同 Anthropic 當時亦未有即時回應置評要求。4

現時只係商討，未見正式聯盟

OpenAI 全球政策主管 Chris Lehane 表示，OpenAI 已同 Anthropic 及 Google 傾咗數星期，目標係嘗試共同優先處理安全。4

不過，現有公開資料未顯示三方已簽訂協議、訂立一套共同技術標準，或者成立具約束力嘅安全計劃。所以較準確嘅講法係：呢啲係被報道嘅討論，未等於正式跨公司安全框架已經落實。4

點解「災難性風險」突然成為焦點？

美國主要 AI 實驗室嘅領袖早前公開呼籲暫停進一步開發 AI，令外界對愈來愈強大系統可能帶來嘅存在性風險更加關注。4

美國政策圈亦有相似憂慮。路透報道，Anthropic 研究人員警告 AI 進展太快或會帶來人類滅絕級別風險後，愈來愈多美國國會議員要求制定新規管措施。3

Anthropic 曾另外呼籲主要 AI 實驗室：一旦風險升高，應考慮作出協調一致、而且可核實嘅開發暫停安排。該公司認為，AI 系統最終可能以快過社會應對後果嘅速度自行改進。15

呢類警告講緊嘅係潛在未來能力與風險，唔代表各方已認定結果必然發生；但亦解釋咗點解企業自願保障、共同標準同可執行監管，會同時成為焦點。

安全合作會唔會碰到反壟斷紅線？

最大難題之一係反壟斷法。競爭對手之間合作，如果影響市場競爭，尤其在幾間公司正激烈競逐先進模型研發與部署嘅情況下，自然可能引來監管審視。

Lehane 表示，佢唔認為 OpenAI、Anthropic 同 Google DeepMind 就安全協調需要反壟斷豁免。4 不過，美國聯邦貿易委員會（FTC）主席 Andrew Ferguson 對 AI 公司尋求反壟斷豁免表示「應該深表懷疑」；同時有專家向路透指出，現行反壟斷法本身或已容許為避免災難性風險而作出協調。2

分野在於合作內容：共同安全測試、風險管理做法或可被視為防止傷害；但若協議實際上令各公司一同放慢開發、限制競爭，法律同政策層面嘅問題就會複雜得多。

美國國會亦醞釀立法

Lehane 又稱，OpenAI 會支持旨在減低災難性 AI 風險、獲兩黨支持嘅美國立法。4

美國參議院談判代表正研究一項可能嘅「注意責任」（duty of care）：要求 AI 開發商證明已採取合理預防措施減少傷害。按討論中嘅方案，美國商務部長或可要求公司提交證據，並派遣政府審核人員測試產品。8

OpenAI 亦曾呼籲美國設立強制性全國 AI 安全要求，並指相關標準應延伸到美國以外。6

下一步要睇乜？

真正值得留意嘅，係呢啲對話會否變成公開、正式嘅承諾：有冇明確保障措施、獨立評估，以及可追究嘅問責機制。

現階段，證據只支持一個較審慎嘅結論：OpenAI、Anthropic 同 Google DeepMind 據報正就 AI 安全商討合作；背景係先進 AI 風險備受關注，業界與美國政府亦面對制定共同標準及聯邦規則嘅壓力。4

若日後真有合作，外界大概會用兩條問題去衡量：佢係咪真係帶來有意義嘅安全保障？以及會唔會借「安全」之名，變成競爭對手之間暗中限制競爭嘅工具？