白宮與Anthropic聯手制定AI安全新框架：為「Jailbreak」漏洞評級、出口管制背後的角力

一個「Jailbreak」引發嘅兩極爭議

今次出口管制嘅直接導火線係一個所謂嘅「jailbreak」（越獄）——即係一種繞過AI安全護欄嘅方法。但兩邊對於呢個漏洞嘅嚴重程度，有截然不同嘅睇法。

• Anthropic嘅立場： CEO Dario Amodei喺緊急通話中向官員解釋，呢個所謂嘅jailbreak係「狹窄」同「非普遍」嘅——唔係一種可以廣泛利用嘅系統性漏洞。公司公開表示，政府淨係提供咗「口頭證據，話有一個潛在嘅狹窄、非普遍嘅jailbreak」。Anthropic喺一篇博客文章中話：「我哋唔同意一個狹窄嘅潛在jailbreak，就應該成為回收商業模型嘅理由。」
• 政府嘅立場： 白宮認為，任何有證據顯示能夠繞過安全護欄嘅模型——尤其係Fable 5本身係設計嚟識別軟件漏洞嘅——如果仲畀外國對手用得到，就係一個不可接受嘅國家安全風險 。

呢場爭議急劇升溫。據多份報道，Amodei喺通話中強烈反駁官員，形容政府嘅擔憂係一場誤會，談判一度幾乎破裂 。

白宮將Fable 5定為新AI行政命令護欄嘅測試案例，協調咗商務部、財政部同白宮本身 。政府擔心呢啲模型嘅能力，會令中國可以接觸到網絡安全攻擊工具同其他危險嘅雙重用途技術 。

從對抗到談判：共建統一合規框架

出口管制風波幾日之內，白宮同Anthropic就由對抗轉向結構性談判 。2026年4月17日，Amodei同白宮官員進行咗被形容為富有成效嘅停火談判——呢個係自Anthropic同五角大樓早前鬧翻之後，首次高層接觸 。

隨後嘅高層討論中，主要人物包括美國商務部長Howard Lutnick、國家網絡總監Sean Cairncross，以及Anthropic聯合創辦人Tom Brown 。政府協調咗商務部、財政部同白宮一齊處理Fable 5呢個測試案例 。

呢啲談判得出嘅核心項目，係一個統一合規框架，用嚟評估前沿AI模型安全漏洞（尤其係jailbreak）嘅嚴重程度 。呢個框架旨在建立共同基準，判斷安全缺陷應唔應該觸發政府干預 。

統一評級系統：三項風險評估標準

呢個努力嘅核心，係一個統一嘅jailbreak評級系統。雖然官方仲未公布具體嘅等級（例如「嚴重」、「高」、「中」、「低」）或者詳細嘅評分標準，但據報個框架會按以下三項風險評估標準評估漏洞 ：

1. 繞過咗嘅防護——邊啲安全護欄（例如憲法分類器、實時過濾器）被破解。
2. 暴露咗嘅能力——邊啲危險嘅模型能力（例如網絡攻擊、生物科學指引、化學合成）變得可以接觸到。
3. 實際影響——呢個jailbreak可以幾容易大規模利用，以及會造成幾大嘅傷害。

政府嘅目標係用呢個評級系統，建立清晰、預先設定嘅風險門檻，一旦達到就會自動決定——係要施加出口管制、要求補救措施，定係禁止推出——而唔係每次出事先至臨時反應 。

政府嘅策略目標：由被動反應轉向規則為本

政府嘅總體目標，係由被動、危機驅動嘅干預，轉向一個規則為本嘅系統 。透過同Anthropic一齊制定評級框架同風險門檻，白宮希望：

• 為AI實驗室創造可預測性，等佢哋知道乜嘢情況會觸發政府行動。
• 建立共同術語嚟描述漏洞嘅嚴重程度。
• 避免將來再出現「模型公開推出，然後突然被出口管制逼到落閘」嘅情況——就好似Fable 5同Mythos 5咁。

關鍵不確定性： 框架嘅詳細標準、適用範圍同時間表都仲未公開。呢三項風險評估標準（繞過防護、暴露能力、實際影響）已經被多個媒體報道，但具體嘅評分方法仍然係一個謎 。

G7嘅宏觀背景

呢個美方同Anthropic嘅框架發展，發生喺G7討論AI安全標準嘅大背景之下。G7一直努力推動協調國際基準嚟評估前沿AI風險 。白宮同Anthropic正喺度建立嘅呢個統一評級系統，預料會影響——亦會反過來受影響——呢啲更廣泛嘅多邊談判，不過G7嘅具體成果仍然喺談判當中 。

下一步點行？

呢個框架嘅發展，標誌住美國AI政策一個重大轉向。喺出口管制生效前僅僅幾日，Amodei先至發表咗一篇政策文章，主張政府應該有強制性法律權力，去阻止或者撤回未能通過獨立安全測試嘅前沿AI模型推出 。6月12日嘅危機，以一種出乎意料嘅對抗方式，將呢個原則放咗上實戰考驗。

目前最大嘅問題係：點樣定義「狹窄、可控嘅漏洞」同「足以令政府出手嘅系統性風險」之間嘅界線？ 呢個答案將會影響Anthropic未來嘅產品推出，以至整個前沿AI發展嘅監管格局。