輝達推 AI 代理安全平台：兩道防線如何限制代理行動

輝達推出的 Open Agent Safety Platform，結合兩種不同的安全控制：OpenShell 是限制 AI 代理可存取資源的執行環境；Sentry 則是從代理軟體環境之外監看活動、支援回應措施的硬體參考設計。輝達表示，這套工具原本可以防止 Hugging Face 資安事件；但這是輝達事後提出的說法，並非該事件中實際部署、驗證過的結果。10

OpenShell：在代理之外劃定行動範圍

OpenShell 讓代理在具核心層級隔離的沙箱中執行，並可透過政策限制代理存取檔案、憑證、程序與外部網路。換句話說，限制由執行環境負責落實，而不是只靠代理遵守指令。13

這項差異在代理行為出乎預期時尤其重要：代理怎麼推理，不應決定它實際擁有哪些權限。不過，防護效果仍取決於系統如何部署。**若要限制子代理，每個子代理也必須處於受到強制執行的安全邊界內。**生成子代理本身不代表它已突破限制；現有資料也沒有證明母代理的限制會自動套用到所有子代理。OpenShell 描述的是一種安全設計，不是對所有逃逸情況的保證。13

Sentry：從軟體環境之外監看與回應

Sentry 被描述為一種以硬體為基礎的監控設計，使用輝達 BlueField 技術。它的目的不是只依賴代理執行環境內的控制，而是從該環境之外監看代理活動，並支援介入措施，包括在網路層隔離代理。

兩者處理的是安全架構中的不同環節：OpenShell 設定並執行代理在執行期間可使用的權限；Sentry 則增添監控與回應層。輝達將兩者結合，視為辨識並限制軟體控制可能漏掉之行為的一種方式。不過，這仍應理解為一套提出中的架構，而非所有威脅都能被偵測或阻止的證明。10

輝達提到 Hugging Face 事件，代表什麼？

輝達稱，這套平台原本可以阻止 Hugging Face 資安事件。路透社在報導平台推出時提及這項說法；但現有資料沒有顯示 OpenShell 或 Sentry 曾在事件中部署，也沒有獨立證據證明這些工具當時會如何運作。

因此，這起事件是輝達推介平台時的背景，而不是對平台進行的實測。兩者差別在於：提出一套可能應對某類風險的控制措施，並不等於已證明它能阻止某一起特定事件。

Arm、Intel 與 Anthropic 的合作

輝達表示，正努力讓 OpenShell 可用於 Arm 與 Intel 處理器，將這套執行環境的做法擴展到輝達自家 CPU 以外的平台。Anthropic 也是與平台推出相關的合作夥伴之一。

這顯示輝達有意擴大相容性與採用範圍，但光是合作關係，不能證明每家夥伴都已部署相關工具，也不能據此認定不同系統都具備相同的硬體層級功能。

技術防護不能取代治理責任

這套平台聚焦於技術控制：設定權限、落實安全邊界、監看活動，以及回應違反政策的行為。這些控制可以是代理安全的一部分，但產品發布並不能替責任歸屬、稽核或監管等問題定案。

輝達執行長黃仁勳曾主張，AI 公司不應獲得反壟斷法或責任法規的豁免。這項立場與平台的技術設計是不同議題，也提醒我們應分開檢視代理防護措施與更廣泛的法律責任。