法國主導的這場聯合國安全理事會會議，預期會把最先進AI視為一項跨國安全風險：不僅可能遭惡意行為者利用，也涉及開發者是否仍能有效掌控能力日益提升的模型，以及各國是否需要共同安全標準與跨境防護措施。不過，四位講者的逐字發言尚未預先公開。這場於9月23日舉行的會議，是在安理會「維護國際和平與安全」議程下召開。10

四位講者可能傳達什麼？

OpenAI執行長Sam Altman、Anthropic執行長Dario Amodei、AI研究者Yoshua Bengio，以及Hugging Face執行長Clément Delangue，預計都將把重點放在：前沿模型的安全，不能只交由單一公司或單一國家自行處理。

可能的政策方向包括建立共同風險評測、分享危險能力與事故資訊、引入獨立測試，以及防範AI被武器化或用於其他惡意用途。會議設定的核心，本身就是AI對國際安全造成的風險。10

模型互測：安全合作的可行範例

OpenAI與Anthropic已公布一項聯合評估：雙方各自用內部的安全及「失準」（misalignment）評測方法，測試對方已公開的模型，並公布結果。15

這類互測的重要性在於，模型開發商不一定看得見自身系統的所有盲點；由競爭對手以不同方法檢驗，可能更容易找出危險行為或失效模式。

但合作的邊界同樣關鍵。若要讓測試有意義，公司必須提供足夠的模型存取與安全資訊；同時又必須避免交換可能觸及競爭敏感內容的資料，例如產品路線圖、模型推出時程、定價，或技術推進速度。

為何反壟斷爭議浮上檯面？

一宗擬議中的消費者集體訴訟指控Anthropic、OpenAI、SpaceXAI與Google非法協議放慢AI開發。這仍只是訴訟中的指控，並非法院已作出的認定。1

爭議反映了AI治理的一個結構性難題：

• 從安全角度看，共同設定模型發布門檻或暫緩升級，可能被視為降低高風險能力外溢的審慎措施。
• 從競爭法角度看，原告則可能將相同行為描述成主要競爭者共同限制產出、減少消費者獲益。

相較於共同決定何時推出、以多快速度提升模型能力，針對已揭露的技術安全測試進行交叉評估，較容易被界定為目的明確、範圍有限的安全合作。

與川普在聯大表態的鮮明對照

安理會討論的基本前提，是前沿AI風險屬於需要國際共同行動處理的問題，因此需要跨國防護機制。相對地，美國總統川普在聯合國大會的談話採取不同立場：他反對國際AI管制，將安全警告形容為騙局，強調美國在AI競賽中的優勢，並表示聯邦政府將使用「超級智慧」（super intelligence）而非「人工智慧」（artificial intelligence）一詞。3

相關報導也指出，這項名稱調整將適用於美國政府的官方通訊。2

真正未解的問題：如何合作，卻不變成協調競爭？

法國推動的議程，意在以共同規則避免各方為搶速度而犧牲安全，造成「向下競爭」。川普的說法則把節制視為可能削弱美國科技競爭力的因素。

兩種立場之間，最困難的政策課題並不是要不要安全，而是如何設計可稽核、範圍明確且必要的安全協作：既能讓研究機構互相檢驗、分享風險訊號，又不會演變為競爭對手實質協調研發速度或產品推出的機制。

法國主導的這場聯合國安全理事會會議，預期會把最先進AI視為一項跨國安全風險：不僅可能遭惡意行為者利用，也涉及開發者是否仍能有效掌控能力日益提升的模型，以及各國是否需要共同安全標準與跨境防護措施。不過，四位講者的逐字發言尚未預先公開。這場於9月23日舉行的會議，是在安理會「維護國際和平與安全」議程下召開。10

四位講者可能傳達什麼？

OpenAI執行長Sam Altman、Anthropic執行長Dario Amodei、AI研究者Yoshua Bengio，以及Hugging Face執行長Clément Delangue，預計都將把重點放在：前沿模型的安全，不能只交由單一公司或單一國家自行處理。

可能的政策方向包括建立共同風險評測、分享危險能力與事故資訊、引入獨立測試，以及防範AI被武器化或用於其他惡意用途。會議設定的核心，本身就是AI對國際安全造成的風險。10

模型互測：安全合作的可行範例

OpenAI與Anthropic已公布一項聯合評估：雙方各自用內部的安全及「失準」（misalignment）評測方法，測試對方已公開的模型，並公布結果。15

這類互測的重要性在於，模型開發商不一定看得見自身系統的所有盲點；由競爭對手以不同方法檢驗，可能更容易找出危險行為或失效模式。

但合作的邊界同樣關鍵。若要讓測試有意義，公司必須提供足夠的模型存取與安全資訊；同時又必須避免交換可能觸及競爭敏感內容的資料，例如產品路線圖、模型推出時程、定價，或技術推進速度。

為何反壟斷爭議浮上檯面？

一宗擬議中的消費者集體訴訟指控Anthropic、OpenAI、SpaceXAI與Google非法協議放慢AI開發。這仍只是訴訟中的指控，並非法院已作出的認定。1

爭議反映了AI治理的一個結構性難題：

• 從安全角度看，共同設定模型發布門檻或暫緩升級，可能被視為降低高風險能力外溢的審慎措施。
• 從競爭法角度看，原告則可能將相同行為描述成主要競爭者共同限制產出、減少消費者獲益。

相較於共同決定何時推出、以多快速度提升模型能力，針對已揭露的技術安全測試進行交叉評估，較容易被界定為目的明確、範圍有限的安全合作。

與川普在聯大表態的鮮明對照

安理會討論的基本前提，是前沿AI風險屬於需要國際共同行動處理的問題，因此需要跨國防護機制。相對地，美國總統川普在聯合國大會的談話採取不同立場：他反對國際AI管制，將安全警告形容為騙局，強調美國在AI競賽中的優勢，並表示聯邦政府將使用「超級智慧」（super intelligence）而非「人工智慧」（artificial intelligence）一詞。3

相關報導也指出，這項名稱調整將適用於美國政府的官方通訊。2

真正未解的問題：如何合作，卻不變成協調競爭？

法國推動的議程，意在以共同規則避免各方為搶速度而犧牲安全，造成「向下競爭」。川普的說法則把節制視為可能削弱美國科技競爭力的因素。

兩種立場之間，最困難的政策課題並不是要不要安全，而是如何設計可稽核、範圍明確且必要的安全協作：既能讓研究機構互相檢驗、分享風險訊號，又不會演變為競爭對手實質協調研發速度或產品推出的機制。