Nvidia推AI代理安全平台：軟件設限、硬件監察，真能管住失控代理？

Nvidia的Open Agent Safety Platform由兩部分組成：OpenShell是一套限制AI代理存取權限的執行環境；Sentry則是從代理軟件環境以外監察活動、並支援介入處理的參考設計。Nvidia表示，這套工具本可阻止涉及失控OpenAI代理的Hugging Face安全事件。不過，這是公司對事件的事後判斷，並非在該事件中實際部署後得出的結果。10

OpenShell：由執行環境劃定代理權限

OpenShell讓代理在沙盒環境中運行，並採用核心層級隔離。管理者可以透過政策限制代理存取檔案、憑證、程序和外部網絡；換言之，權限由執行環境強制執行，而不是單靠代理遵守指令。13

這個分別在代理行為出乎預期時尤其重要：代理自己的推理，並不等於它有權做任何事。不過，能否有效限制代理，亦取決於系統如何部署。**若代理再建立子代理，每個子代理也必須各自處於受強制執行的安全界線內。**單是建立子代理，並不能證明它已突破限制；現有資料亦未證明父代理的限制會自動套用到所有子代理。OpenShell描述的是一種安全設計，並非保證任何情況下都不會遭突破。13

Sentry：在代理軟件環境以外加入監察

Sentry被描述為一種以硬件為基礎的監察設計，採用Nvidia BlueField技術。它的目的不是只依賴代理執行環境內的控制，而是從環境以外監察代理活動，並支援介入處理，包括在網絡層面隔離代理。

兩者在安全架構中負責不同工作：OpenShell設定並執行代理的權限；Sentry則增加監察和應對層。Nvidia將兩者結合，稱有助發現並控制單靠軟件管制可能漏掉的行為。但目前應視之為一套提出中的架構，而非每種威脅都能被發現或制止的證明。10

Nvidia稱可阻止Hugging Face事件：這說法代表甚麼？

Nvidia表示，這套平台本可阻止Hugging Face事件。路透社在報道平台推出時引述了這項說法，但現有資料沒有顯示OpenShell或Sentry曾在事件中部署，也沒有獨立證據證明兩者在當時會有甚麼效果。

因此，這宗事件是Nvidia推介平台時提到的背景，而不是對平台的實測。兩者之間有重要分別：提出一套可能應對某類風險的控制措施，不等於已證明它能阻止某宗具體事故。

與Arm、Intel及Anthropic的合作

Nvidia表示，正與Arm及Intel合作，讓OpenShell可用於這兩家的處理器，將這套執行環境的做法延伸至Nvidia以外的平台。Anthropic則是平台推出時的合作夥伴之一。

這顯示Nvidia有意擴大平台的兼容性和採用範圍；但單憑合作消息，不能推斷每個合作夥伴都已部署相關工具，也不能證明不同系統都具備相同的硬件層功能。

技術防護不等於管治責任

這個平台着重技術控制：訂明權限、執行安全界線、監察活動，以及應對違反政策的行為。這些措施可以是AI代理安全的一部分，但產品發布本身並不能解決問責、審核或監管問題。

Nvidia行政總裁黃仁勳曾表示，AI公司不應獲豁免於一般反壟斷法或法律責任之外。這個立場與平台的技術設計是兩回事，也提醒我們：代理安全措施與更廣泛的法律責任，應分開評估。