法國召集的聯合國安理會簡報，預料會將先進人工智能（AI）定位為一項國際安全議題：不單是一般科技監管，而是包括惡意行為者濫用模型、系統能力急升後人類會否失去有效控制，以及各國如何建立跨境的共同防線。會議於 9 月 23 日以「維持國際和平與安全」議程舉行，由法國主持。

至於 Sam Altman、Dario Amodei、Yoshua Bengio 同 Hugging Face 行政總裁 Clément Delangue 最終會講哪些具體措辭，事前未有公開；不過從會議焦點及各人的公開立場看，重點大概會落在以下幾方面。

預料會提出：安全不能只靠單一公司或單一國家

四人很可能會主張，最前沿 AI 模型的風險不能任由個別實驗室自行處理。可行方向包括：

• 建立共通的風險評測方法；
• 分享危險能力與重大事故的資訊；
• 引入獨立測試及「紅隊」壓力測試；
• 防止模型被用於武器化、網絡攻擊或其他惡意用途；
• 為跨國模型部署訂立可核查的安全保障。

安理會這次討論的正是 AI 對國際安全構成的風險，包括系統可能脫離人類控制的憂慮。

OpenAI 與 Anthropic 互測模型：合作有實例，但範圍有限

安全合作不是純粹口號。OpenAI 和 Anthropic 曾進行聯合試驗：雙方各自以內部的安全及失配評測方法，測試對方已公開發布的模型，並公開結果。15

呢種「互相驗身」的價值，在於一間公司未必看得到自己系統的漏洞；由競爭對手以不同方法測試，可能較易發現危險行為、欺騙性反應或其他安全死角。

但合作亦有條界線：公司要讓對方有足夠技術存取和安全資訊，評測先至有意義；同時又不能交換產品路線圖、發布時間、定價或技術推進速度等競爭敏感資料。否則，安全協作便有機會被質疑演變成競爭對手之間的協調。

點解反壟斷問題成為焦點？

美國一宗擬議消費者集體訴訟指控 Anthropic、OpenAI、SpaceXAI 與 Google 非法協議放慢 AI 開發速度。要留意，這是原告的指控，並非法院已作出的裁決或事實認定。1

不過，案件凸顯了一個難解矛盾：

• 安全倡議者可能認為，共同設定較高的發布門檻，甚至在高風險能力出現時暫緩推出，是審慎做法；
• 原告或競爭法執法者則可能認為，若競爭者共同決定放慢改進或供應，就等同限制產出，令付費用戶得到較少產品價值。1

因此，聚焦公開、技術性的模型安全互測，較容易與商業協調劃清界線；相反，若業界共同決定「幾時推出」或「要放慢幾多」，法律風險會明顯增加。

與特朗普在聯大的取態：兩套完全不同的邏輯

法國主導的安理會討論，將前沿 AI 風險視為需要各國共同處理的問題，主張共享安全標準與國際保障措施。

美國總統特朗普在聯合國大會的表態則採取相反政治取向：他拒絕國際層面的 AI 控制安排，稱 AI 安全警告是騙局，強調美國在 AI 競賽中的優勢，並表示美國政府文件會以「super intelligence」（超級智能）取代「artificial intelligence」（人工智能）。

簡單講，前者想避免各方為搶先推出更強模型而出現「安全向下競爭」；後者則將過度約束視為削弱美國科技競爭力的風險。

真正未解的政策難題，是如何容許範圍清晰、可審核、以測試為本的安全合作，同時避免它變成競爭對手之間實質上共同控制技術進展或產品發布節奏的安排。

法國召集的聯合國安理會簡報，預料會將先進人工智能（AI）定位為一項國際安全議題：不單是一般科技監管，而是包括惡意行為者濫用模型、系統能力急升後人類會否失去有效控制，以及各國如何建立跨境的共同防線。會議於 9 月 23 日以「維持國際和平與安全」議程舉行，由法國主持。

至於 Sam Altman、Dario Amodei、Yoshua Bengio 同 Hugging Face 行政總裁 Clément Delangue 最終會講哪些具體措辭，事前未有公開；不過從會議焦點及各人的公開立場看，重點大概會落在以下幾方面。

預料會提出：安全不能只靠單一公司或單一國家

四人很可能會主張，最前沿 AI 模型的風險不能任由個別實驗室自行處理。可行方向包括：

• 建立共通的風險評測方法；
• 分享危險能力與重大事故的資訊；
• 引入獨立測試及「紅隊」壓力測試；
• 防止模型被用於武器化、網絡攻擊或其他惡意用途；
• 為跨國模型部署訂立可核查的安全保障。

安理會這次討論的正是 AI 對國際安全構成的風險，包括系統可能脫離人類控制的憂慮。

OpenAI 與 Anthropic 互測模型：合作有實例，但範圍有限

安全合作不是純粹口號。OpenAI 和 Anthropic 曾進行聯合試驗：雙方各自以內部的安全及失配評測方法，測試對方已公開發布的模型，並公開結果。15

呢種「互相驗身」的價值，在於一間公司未必看得到自己系統的漏洞；由競爭對手以不同方法測試，可能較易發現危險行為、欺騙性反應或其他安全死角。

但合作亦有條界線：公司要讓對方有足夠技術存取和安全資訊，評測先至有意義；同時又不能交換產品路線圖、發布時間、定價或技術推進速度等競爭敏感資料。否則，安全協作便有機會被質疑演變成競爭對手之間的協調。

點解反壟斷問題成為焦點？

美國一宗擬議消費者集體訴訟指控 Anthropic、OpenAI、SpaceXAI 與 Google 非法協議放慢 AI 開發速度。要留意，這是原告的指控，並非法院已作出的裁決或事實認定。1

不過，案件凸顯了一個難解矛盾：

• 安全倡議者可能認為，共同設定較高的發布門檻，甚至在高風險能力出現時暫緩推出，是審慎做法；
• 原告或競爭法執法者則可能認為，若競爭者共同決定放慢改進或供應，就等同限制產出，令付費用戶得到較少產品價值。1

因此，聚焦公開、技術性的模型安全互測，較容易與商業協調劃清界線；相反，若業界共同決定「幾時推出」或「要放慢幾多」，法律風險會明顯增加。

與特朗普在聯大的取態：兩套完全不同的邏輯

法國主導的安理會討論，將前沿 AI 風險視為需要各國共同處理的問題，主張共享安全標準與國際保障措施。

美國總統特朗普在聯合國大會的表態則採取相反政治取向：他拒絕國際層面的 AI 控制安排，稱 AI 安全警告是騙局，強調美國在 AI 競賽中的優勢，並表示美國政府文件會以「super intelligence」（超級智能）取代「artificial intelligence」（人工智能）。

簡單講，前者想避免各方為搶先推出更強模型而出現「安全向下競爭」；後者則將過度約束視為削弱美國科技競爭力的風險。

真正未解的政策難題，是如何容許範圍清晰、可審核、以測試為本的安全合作，同時避免它變成競爭對手之間實質上共同控制技術進展或產品發布節奏的安排。