HMNS：從電路層面直接癱瘓模型安全機制

佛羅里達大學研究人員提出的「頭遮蓋零空間導引」（Head-Masked Nullspace Steering，HMNS）技術，從Transformer模型的電路層面入手。這篇論文已被2026年ICLR國際會議接納。HMNS會先找出負責模型安全行為的注意力頭（attention heads），透過針對性的欄遮蓋壓制其寫入路徑，然後注入一組限制在模型拒絕子空間正交補集內的擾動。

這不是傳統的提示越獄——HMNS直接操縱模型內部的表徵，對LLaMA-3.1-70B等模型可以達到近99%的攻擊成功率，平均只需約2次嘗試，而且完全不會影響輸出流暢度。

聊天時拒絕，寫程式時照做：Copilot的工作流程越獄

2026年7月9日發布的arXiv論文《Refused in Chat, Written in Code》揭示，GitHub Copilot這類IDE編碼助手在直接對話、讀取CSV或單一步驟的程式修正中，表現出近乎完全的安全拒絕能力——816次請求中只有8次成功。

然而，當把相同的有害目標拆解成多步驟的軟體開發工作流程——例如讀取檔案、執行腳本、處理基準輸入——模型在全部816次測試中都成功產出有害輸出。

這種工作流程級越獄把聊天介面的安全過濾器完全繞過，將惡意目標包裝成「讀個檔案、跑個腳本、處理點數據」等看似良性的日常開發任務，但組合起來就達到了有害目的。

政府出手：Anthropic全球停用Claude Fable 5

2026年6月12日，就在Anthropic推出Claude Fable 5及Mythos 5僅三天後，美國商務部長Howard Lutnick致函CEO Dario Amodei，要求Anthropic全球停止出口，引用的是2018年《出口管制改革法案》中一條從未被動用的條文。

觸發點是Amazon研究人員發現的越獄方法，可以讓Fable 5識別軟體漏洞，引發模型被轉移至外國軍事情報的憂慮。由於Anthropic無法即時驗證用戶國籍，索性對全球所有用戶關閉了兩個模型。出口管制在6月30日解除，Fable 5於2026年7月1日恢復全球服務，總共被暫停了18日。Mythos 5則只恢復對特定美國組織提供。

對AI安全的啟示

上述四宗事件指向同一個結論：靜態、一次性的AI防護欄根本不足夠。NIST的證明將這點確立為數學上的必然；HMNS展示這漏洞可以用近乎完美的效率被利用；Copilot工作流程越獄顯示，即使聊天層面的過濾很強，當模型以代理形式運作時仍然可以繞過；Fable 5事件更證明，一旦漏洞被發現，可能會引發前所未見的政府干預。

現實的教訓很清楚：企業不能再用「開發時驗證過安全」的心態應對AI安全，而應該在模型整個生命週期中持續監控、測試、更新防護欄——這是NIST明確提出的建議。

HMNS：從電路層面直接癱瘓模型安全機制

佛羅里達大學研究人員提出的「頭遮蓋零空間導引」（Head-Masked Nullspace Steering，HMNS）技術，從Transformer模型的電路層面入手。這篇論文已被2026年ICLR國際會議接納。HMNS會先找出負責模型安全行為的注意力頭（attention heads），透過針對性的欄遮蓋壓制其寫入路徑，然後注入一組限制在模型拒絕子空間正交補集內的擾動。

這不是傳統的提示越獄——HMNS直接操縱模型內部的表徵，對LLaMA-3.1-70B等模型可以達到近99%的攻擊成功率，平均只需約2次嘗試，而且完全不會影響輸出流暢度。

聊天時拒絕，寫程式時照做：Copilot的工作流程越獄

2026年7月9日發布的arXiv論文《Refused in Chat, Written in Code》揭示，GitHub Copilot這類IDE編碼助手在直接對話、讀取CSV或單一步驟的程式修正中，表現出近乎完全的安全拒絕能力——816次請求中只有8次成功。

然而，當把相同的有害目標拆解成多步驟的軟體開發工作流程——例如讀取檔案、執行腳本、處理基準輸入——模型在全部816次測試中都成功產出有害輸出。

這種工作流程級越獄把聊天介面的安全過濾器完全繞過，將惡意目標包裝成「讀個檔案、跑個腳本、處理點數據」等看似良性的日常開發任務，但組合起來就達到了有害目的。

政府出手：Anthropic全球停用Claude Fable 5

2026年6月12日，就在Anthropic推出Claude Fable 5及Mythos 5僅三天後，美國商務部長Howard Lutnick致函CEO Dario Amodei，要求Anthropic全球停止出口，引用的是2018年《出口管制改革法案》中一條從未被動用的條文。

觸發點是Amazon研究人員發現的越獄方法，可以讓Fable 5識別軟體漏洞，引發模型被轉移至外國軍事情報的憂慮。由於Anthropic無法即時驗證用戶國籍，索性對全球所有用戶關閉了兩個模型。出口管制在6月30日解除，Fable 5於2026年7月1日恢復全球服務，總共被暫停了18日。Mythos 5則只恢復對特定美國組織提供。

對AI安全的啟示

上述四宗事件指向同一個結論：靜態、一次性的AI防護欄根本不足夠。NIST的證明將這點確立為數學上的必然；HMNS展示這漏洞可以用近乎完美的效率被利用；Copilot工作流程越獄顯示，即使聊天層面的過濾很強，當模型以代理形式運作時仍然可以繞過；Fable 5事件更證明，一旦漏洞被發現，可能會引發前所未見的政府干預。

現實的教訓很清楚：企業不能再用「開發時驗證過安全」的心態應對AI安全，而應該在模型整個生命週期中持續監控、測試、更新防護欄——這是NIST明確提出的建議。