Nvidia chce držet AI agenty na uzdě. Jak fungují OpenShell a Sentry

Nvidia představila Open Agent Safety Platform, která spojuje dva typy ochrany: OpenShell, běhové prostředí omezující přístup AI agentů, a Sentry, referenční návrh pro sledování jejich činnosti a případný zásah z hardwarové infrastruktury mimo agentův software. Nvidia tvrdí, že tato kombinace mohla zabránit bezpečnostnímu incidentu v Hugging Face, do něhož byli zapojeni neukáznění agenti OpenAI. Jde však o zpětné tvrzení firmy, nikoli o výsledek ověřený přímo při incidentu.10

OpenShell nastavuje hranice mimo dosah agenta

OpenShell spouští agenty v izolovaných prostředích s omezeními vynucovanými na úrovni jádra systému. Pravidla mohou určovat, k jakým souborům, přihlašovacím údajům, procesům a externím sítím agent smí přistupovat. Oprávnění tedy nemají záviset jen na tom, zda agent správně dodrží pokyny: kontroluje je samotné běhové prostředí.13

To je podstatné, když se agent začne chovat jinak, než se očekávalo. Jeho vlastní úsudek mu sám o sobě nemá dát další oprávnění. V praxi ale záleží na tom, jak je systém nastavený. Každý podagent musí být rovněž spuštěn v prostředí, které jeho hranice skutečně vynucuje. To, že nadřazený agent vytvoří dalšího agenta, samo o sobě neznamená, že se nový agent z omezení vymanil. Dostupné podklady zároveň nepotvrzují, že se pravidla nadřazeného agenta automaticky přenesou na každého potomka. OpenShell popisuje bezpečnostní návrh, nikoli záruku proti každému možnému úniku.13

Sentry přidává dohled mimo softwarové prostředí

Sentry Nvidia popisuje jako hardwarově podpořený dohledový systém využívající technologii BlueField. Jeho účelem je sledovat aktivitu agenta z infrastruktury mimo jeho běhové prostředí, a nespoléhat se tedy jen na ochrany uvnitř samotného softwaru. Návrh má umožnit také zásah, například odpojení od sítě.

Obě součásti míří na různé vrstvy zabezpečení: OpenShell nastavuje a vynucuje oprávnění při běhu, zatímco Sentry přidává dohled a možnost reakce. Nvidia tuto kombinaci představuje jako způsob, jak zachytit a omezit chování, které by samotné softwarové kontroly nemusely pokrýt. Je však třeba ji chápat jako navrženou architekturu, ne jako důkaz, že lze odhalit nebo zastavit každou hrozbu.10

Co tvrzení o Hugging Face dokazuje — a co ne

Nvidia říká, že její platforma by incidentu v Hugging Face zabránila. Reuters toto tvrzení zveřejnil v souvislosti s uvedením platformy, dostupné zdroje ale neukazují, že by při daném incidentu byly OpenShell nebo Sentry nasazeny. Ani nezávisle neověřují, jak by si tehdy vedly.

Incident proto představuje kontext pro prezentaci Nvidie, nikoli praktickou zkoušku její platformy. Je rozdíl mezi popisem opatření, která by mohla řešit určitý druh rizika, a prokázáním toho, že zabrání konkrétnímu útoku.

Spolupráce s Arm, Intelem a Anthropic

Nvidia uvádí, že pracuje na podpoře OpenShell pro procesory Arm a Intel, aby se tento přístup neomezoval jen na její vlastní hardware. Mezi partnery spojovanými se spuštěním platformy je také Anthropic.

To ukazuje snahu rozšířit kompatibilitu a využití nástrojů. Samo o sobě to ale nedokládá, že je všichni partneři již nasadili, ani že budou stejné hardwarové funkce dostupné na různých systémech.

Technická ochrana nenahrazuje pravidla a odpovědnost

Platforma se zaměřuje na technická opatření: nastavení oprávnění, vynucení hranic, sledování aktivity a reakci na porušení pravidel. Takové kontroly mohou být součástí zabezpečení agentů, oznámení nového produktu ale samo o sobě neřeší otázky odpovědnosti, auditů ani regulace.

Generální ředitel Nvidie Jensen Huang uvedl, že firmy zabývající se AI by neměly dostávat výjimky z běžných antimonopolních pravidel ani zákonů o odpovědnosti. Jde o samostatné téma, které nesouvisí přímo s technickým návrhem platformy — a připomíná, že ochranu agentů a širší právní odpovědnost je potřeba posuzovat odděleně.