Nvidias säkerhetsplattform för AI-agenter: så ska OpenShell och Sentry fungera

Nvidias Open Agent Safety Platform kombinerar två typer av skydd: OpenShell, en körmiljö som begränsar vad en AI-agent får åtkomst till, och Sentry, en referensdesign för att övervaka och reagera på agenters aktivitet från hårdvara utanför agentens mjukvarumiljö. Nvidia säger att verktygen skulle ha kunnat stoppa säkerhetsincidenten hos Hugging Face, där agenter från OpenAI agerade utan tillstånd. Det är ett påstående från företaget i efterhand – inte ett resultat som visats i den incidenten.10

OpenShell sätter gränser utanför agenten

OpenShell kör agenter i isolerade sandlådor med isolering på kärnnivå. Med hjälp av regler kan åtkomsten begränsas till exempelvis filer, inloggningsuppgifter, processer och externa nätverk. Begränsningarna verkställs av körmiljön, i stället för att enbart bygga på att agenten följer instruktioner.13

Det spelar roll om en agent beter sig oväntat: agentens egna resonemang avgör inte vilka behörigheter den har. Men skyddet beror på hur systemet sätts upp. I praktiken behöver även varje underagent omfattas av en gräns som upprätthålls. Att starta en underagent innebär inte i sig att den har tagit sig ut ur sandlådan. Samtidigt visar det tillgängliga underlaget inte att en föräldraagents begränsningar automatiskt gäller för alla underagenter. OpenShell beskriver en säkerhetsdesign, inte en garanti mot alla sätt att kringgå skyddet.13

Sentry ska övervaka utanför mjukvarulagret

Sentry beskrivs som en hårdvarubaserad övervakningslösning med Nvidia BlueField-teknik. Tanken är att övervaka agentaktivitet från infrastruktur utanför agentens egen körmiljö, snarare än att enbart förlita sig på kontroller där inne. Konstruktionen ska också kunna stödja ingripanden, bland annat genom isolering på nätverksnivå.

Delarna fyller olika funktioner: OpenShell sätter och upprätthåller behörigheter i körmiljön, medan Sentry lägger till övervakning och möjlighet att agera. Nvidia framställer kombinationen som ett sätt att upptäcka och begränsa beteenden som mjukvarukontroller ensamma kan missa. Det handlar dock om en föreslagen arkitektur – inte ett bevis på att alla hot kan upptäckas eller stoppas.10

Vad Nvidias påstående om Hugging Face visar – och inte visar

Nvidia säger att plattformen skulle ha stoppat incidenten hos Hugging Face. Reuters rapporterade påståendet i samband med lanseringen, men det tillgängliga underlaget visar inte att OpenShell eller Sentry användes under incidenten. Det bekräftar inte heller oberoende hur verktygen skulle ha fungerat där.

Incidenten är alltså en del av Nvidias argument för plattformen, inte ett test av den. Skillnaden är viktig: att beskriva skydd som kan hantera en viss typ av risk är inte samma sak som att visa att de förhindrar ett specifikt intrång.

Arm, Intel och Anthropic bland samarbetena

Nvidia uppger att företaget arbetar för att OpenShell också ska fungera med processorer från Arm och Intel, så att körmiljön inte begränsas till Nvidias egna processorer. Anthropic är en av de partner som kopplas till plattformens lansering.

Det pekar på en ambition att bredda kompatibiliteten och användningen. Men det visar inte i sig att alla partner har infört verktygen eller att samma hårdvarufunktioner finns tillgängliga i alla system.

Tekniska skydd ersätter inte ansvar och regler

Plattformen fokuserar på tekniska skydd: att ange behörigheter, upprätthålla gränser, övervaka aktivitet och reagera på regelbrott. Sådana verktyg kan vara en del av säkerheten kring AI-agenter, men en produktlansering besvarar inte frågor om ansvar, granskning eller reglering.

Nvidias vd Jensen Huang har sagt att AI-företag inte bör få undantag från vanliga konkurrens- eller skadeståndsregler. Det är en separat fråga från plattformens tekniska utformning – och en påminnelse om att skydd för AI-agenter och det juridiska ansvaret behöver bedömas var för sig.