除了出口禁令之外,白宮更進一步升級了要求:如果Anthropic未來想發布其前沿模型,就必須保證零越獄—也就是說,必須阻止所有可能繞過模型安全護欄的方式 。這是一項絕對標準:在任何情況下,都不能有任何漏洞存在 。
業界與學術界的AI研究人員普遍認為,以現有技術而言,「零越獄」的要求是無法達成的 。原因直指大型語言模型運作的數學基礎。
越獄悖論(Jailbreak Paradox)。 一篇2024年發表於arXiv、並於2026年5月更新的論文正式證明了兩個悖論:首先,不可能建構出一個完美的越獄分類器;其次,一個較弱的模型無法始終如一地偵測出較強的模型是否已被越獄 。這不是一個可以修復的錯誤,而是對齊(alignment)定義本身固有的數學限制。
一場對抗性軍備競賽,而非可解決的問題。 越獄本質上是一個對抗性問題。攻擊者持續發現新的提示模式、編碼技巧與多輪對話策略,以規避現有過濾器。一旦某一類越獄手法被修補,新的變種就會立刻出現 。
自主越獄規模化。 2026年3月發表於《自然通訊》(Nature Communications)的一項研究發現,大型推理模型如今可以充當自主越獄代理,在測試的所有模型組合中,總體成功率達到了97.14% 。攻擊面正在擴大,而非縮小。
專家共識。 安全專家表示,完全封鎖越獄「將導致所有前沿AI的部署停擺」—這項標準並非一個可以修復的錯誤目標,而是一個存在性證明的不可能任務 。
這項要求並非憑空出現。它遵循一條清晰的軌跡,顯示政府對Anthropic施加的壓力逐步升級:
先前的五角大樓衝突。 Anthropic早已與美國政府就其與五角大樓的互動存在爭議。五角大樓已將該公司指定為「供應鏈風險」,指示聯邦機構限制或停止使用其產品 。
亞馬遜的觸發。 據報導,亞馬遜CEO安迪·賈西(Andy Jassy)向白宮通報了關於Fable 5的具體安全疑慮,加速了政府的干預 。至少還有其他五家公司也發出了警報 。
突然的關閉。 6月12日下午5點21分(美東時間),Anthropic收到了商務部的信函。到大約晚上10點,這兩個模型對全球所有客戶都被關閉—這是美國首次對已公開使用的商業AI模型實施出口管制 。
零越獄的最後通牒。 在關閉之後,白宮將出口限制升級為一項技術上不可能的安檢標準,作為未來發布模型的先決條件 。
TechCrunch將整個事件定性為「從來就不是關於AI越獄」的政治動作—這是政府願意單方面判定何時AI模型過於危險而無法運作的信號 。
多家媒體報導,白宮的立場是:Anthropic的Fable 5模型只有在該公司能讓越獄變得不可能的情況下才能恢復上線 。這不是要求逐步改進或分級漏洞管理流程—這是一個絕對的二選一:要嘛沒有任何越獄方式存在,要嘛模型就不能部署 。
Anthropic反擊表示,「迄今為止,沒有任何測試人員能夠找到一個通用越獄方法」,而且對於他們或任何其他公司來說,完全避免任何越獄是不可能的 。該公司還指出,他們「甚至沒有收到任何關於一個令人擔憂的、非通用潛在越獄導致有害結果的通報」。
根據多家媒體報導,Anthropic面臨三條主要的策略路徑:
1. 遵守與協商。 CEO達里奧·阿莫迪(Dario Amodei)已於6月15日與白宮官員會面,協商一個雙方都能接受的漏洞評估框架—用一個分級嚴重性標準取代零越獄的絕對要求 。據報導,白宮與Anthropic正在合作建立一個評估安全漏洞嚴重性的框架 。這似乎是Anthropic目前正在採取的路徑。
2. 司法或政治挑戰。 Anthropic可以在法庭上對出口管制提出異議,主張政府超越了法定權限,或違反了正當程序,因為它追溯性地對一個已公開的商業產品實施出口管制 。這將是一個高風險、高報酬的舉動,可能創下里程碑式的判例。
3. 重組或遷移業務。 Anthropic可以將模型發布限制在監管環境更可預測的司法管轄區,或重組其公司結構,將面向美國的產品與面向全球的產品分開。一些分析師將此描述為「核選項」,這將從根本上改變Anthropic的商業模式。
這場爭議具體化了將定義前沿AI未來的三項根本性緊張關係:
技術現實 vs. 監管絕對主義。 政府要求一項電腦科學認為不可能的保證—零越獄 。如果政府堅持這項標準,它實際上就擁有了對任何前沿模型發布的否決權,因為沒有任何實驗室能達到這個標準。
對公開軟體實施出口管制。 美國首次對一個已經可以公開存取的商業AI模型實施了出口管制 。這開創了一個先例:任何AI實驗室都可能根據單方面的國家安全判定,在一夜之間被勒令關閉產品。
獨立性 vs. 事實上的監管。 Anthropic成立時以安全與獨立性為使命。白宮的行動表明,即使是「最負責任」的實驗室,也可能被迫遵守技術上不切實際的政府標準—或者眼睜睜看著產品被直接關閉 。正如彭博社所言,這次封鎖標誌著「美國政策的逆轉」,並向矽谷發出「警告」:前沿AI部署的自我監管時代可能已經結束 。
除了出口禁令之外,白宮更進一步升級了要求:如果Anthropic未來想發布其前沿模型,就必須保證零越獄—也就是說,必須阻止所有可能繞過模型安全護欄的方式 。這是一項絕對標準:在任何情況下,都不能有任何漏洞存在 。
業界與學術界的AI研究人員普遍認為,以現有技術而言,「零越獄」的要求是無法達成的 。原因直指大型語言模型運作的數學基礎。
越獄悖論(Jailbreak Paradox)。 一篇2024年發表於arXiv、並於2026年5月更新的論文正式證明了兩個悖論:首先,不可能建構出一個完美的越獄分類器;其次,一個較弱的模型無法始終如一地偵測出較強的模型是否已被越獄 。這不是一個可以修復的錯誤,而是對齊(alignment)定義本身固有的數學限制。
一場對抗性軍備競賽,而非可解決的問題。 越獄本質上是一個對抗性問題。攻擊者持續發現新的提示模式、編碼技巧與多輪對話策略,以規避現有過濾器。一旦某一類越獄手法被修補,新的變種就會立刻出現 。
自主越獄規模化。 2026年3月發表於《自然通訊》(Nature Communications)的一項研究發現,大型推理模型如今可以充當自主越獄代理,在測試的所有模型組合中,總體成功率達到了97.14% 。攻擊面正在擴大,而非縮小。
專家共識。 安全專家表示,完全封鎖越獄「將導致所有前沿AI的部署停擺」—這項標準並非一個可以修復的錯誤目標,而是一個存在性證明的不可能任務 。
這項要求並非憑空出現。它遵循一條清晰的軌跡,顯示政府對Anthropic施加的壓力逐步升級:
先前的五角大樓衝突。 Anthropic早已與美國政府就其與五角大樓的互動存在爭議。五角大樓已將該公司指定為「供應鏈風險」,指示聯邦機構限制或停止使用其產品 。
亞馬遜的觸發。 據報導,亞馬遜CEO安迪·賈西(Andy Jassy)向白宮通報了關於Fable 5的具體安全疑慮,加速了政府的干預 。至少還有其他五家公司也發出了警報 。
突然的關閉。 6月12日下午5點21分(美東時間),Anthropic收到了商務部的信函。到大約晚上10點,這兩個模型對全球所有客戶都被關閉—這是美國首次對已公開使用的商業AI模型實施出口管制 。
零越獄的最後通牒。 在關閉之後,白宮將出口限制升級為一項技術上不可能的安檢標準,作為未來發布模型的先決條件 。
TechCrunch將整個事件定性為「從來就不是關於AI越獄」的政治動作—這是政府願意單方面判定何時AI模型過於危險而無法運作的信號 。
多家媒體報導,白宮的立場是:Anthropic的Fable 5模型只有在該公司能讓越獄變得不可能的情況下才能恢復上線 。這不是要求逐步改進或分級漏洞管理流程—這是一個絕對的二選一:要嘛沒有任何越獄方式存在,要嘛模型就不能部署 。
Anthropic反擊表示,「迄今為止,沒有任何測試人員能夠找到一個通用越獄方法」,而且對於他們或任何其他公司來說,完全避免任何越獄是不可能的 。該公司還指出,他們「甚至沒有收到任何關於一個令人擔憂的、非通用潛在越獄導致有害結果的通報」。
根據多家媒體報導,Anthropic面臨三條主要的策略路徑:
1. 遵守與協商。 CEO達里奧·阿莫迪(Dario Amodei)已於6月15日與白宮官員會面,協商一個雙方都能接受的漏洞評估框架—用一個分級嚴重性標準取代零越獄的絕對要求 。據報導,白宮與Anthropic正在合作建立一個評估安全漏洞嚴重性的框架 。這似乎是Anthropic目前正在採取的路徑。
2. 司法或政治挑戰。 Anthropic可以在法庭上對出口管制提出異議,主張政府超越了法定權限,或違反了正當程序,因為它追溯性地對一個已公開的商業產品實施出口管制 。這將是一個高風險、高報酬的舉動,可能創下里程碑式的判例。
3. 重組或遷移業務。 Anthropic可以將模型發布限制在監管環境更可預測的司法管轄區,或重組其公司結構,將面向美國的產品與面向全球的產品分開。一些分析師將此描述為「核選項」,這將從根本上改變Anthropic的商業模式。
這場爭議具體化了將定義前沿AI未來的三項根本性緊張關係:
技術現實 vs. 監管絕對主義。 政府要求一項電腦科學認為不可能的保證—零越獄 。如果政府堅持這項標準,它實際上就擁有了對任何前沿模型發布的否決權,因為沒有任何實驗室能達到這個標準。
對公開軟體實施出口管制。 美國首次對一個已經可以公開存取的商業AI模型實施了出口管制 。這開創了一個先例:任何AI實驗室都可能根據單方面的國家安全判定,在一夜之間被勒令關閉產品。
獨立性 vs. 事實上的監管。 Anthropic成立時以安全與獨立性為使命。白宮的行動表明,即使是「最負責任」的實驗室,也可能被迫遵守技術上不切實際的政府標準—或者眼睜睜看著產品被直接關閉 。正如彭博社所言,這次封鎖標誌著「美國政策的逆轉」,並向矽谷發出「警告」:前沿AI部署的自我監管時代可能已經結束 。