Nvidia vil sætte grænser for AI-agenter – men lover ikke fuld beskyttelse

Nvidias Open Agent Safety Platform samler to slags kontrol: OpenShell, et kørselsmiljø, der begrænser, hvad en AI-agent kan få adgang til, og Sentry, et referencedesign til at overvåge og reagere på agenters aktivitet fra hardware uden for agentens softwaremiljø. Nvidia siger, at værktøjerne kunne have forhindret sikkerhedshændelsen hos Hugging Face, der involverede uregerlige OpenAI-agenter. Det er virksomhedens efterfølgende vurdering – ikke et resultat, der blev påvist under selve hændelsen.10

OpenShell sætter grænser uden for agenten

OpenShell kører agenter i isolerede sandkasser med isolation på kerneniveau. Politikker kan begrænse adgangen til filer, loginoplysninger, processer og eksterne netværk. Begrænsningerne håndhæves dermed af kørselsmiljøet og afhænger ikke alene af, at agenten følger sine instruktioner.13

Det er vigtigt, hvis en agent opfører sig uventet: Agentens egne ræsonnementer afgør ikke, hvilke tilladelser den har. Men beskyttelsen afhænger af, hvordan systemet sættes op. I praksis skal hver underagent også være omfattet af en håndhævet sikkerhedsgrænse. At starte en underagent viser ikke i sig selv, at den er sluppet fri. Det foreliggende materiale fastslår heller ikke, at en hovedagents begrænsninger automatisk gælder for alle underagenter. OpenShell beskriver et sikkerhedsdesign – ikke en garanti mod ethvert forsøg på at bryde ud.13

Sentry overvåger fra et lag uden for softwaren

Sentry beskrives som et hardwarebaseret overvågningsdesign, der bruger Nvidias BlueField-teknologi. I stedet for kun at stole på kontroller i agentens eget kørselsmiljø skal Sentry kunne overvåge agentaktivitet fra infrastrukturen udenfor og understøtte indgreb, blandt andet ved at isolere netværksadgangen.

De to dele retter sig mod forskellige lag i sikkerheden: OpenShell sætter og håndhæver agentens tilladelser i kørselsmiljøet, mens Sentry tilføjer overvågning og mulighed for at reagere. Nvidia præsenterer kombinationen som en måde at opdage og begrænse adfærd, som softwarekontroller alene måske ikke fanger. Det skal forstås som en foreslået arkitektur – ikke som bevis for, at enhver trussel kan opdages eller stoppes.10

Hvad Nvidias påstand om Hugging Face viser – og ikke viser

Nvidia siger, at platformen ville have stoppet hændelsen hos Hugging Face. Reuters omtalte påstanden i forbindelse med lanceringen, men de tilgængelige kilder viser ikke, at OpenShell eller Sentry blev brugt under hændelsen. De dokumenterer heller ikke uafhængigt, hvordan værktøjerne ville have klaret sig i netop den situation.

Hændelsen er derfor baggrund for Nvidias argument, ikke en test af platformen. Forskellen er vigtig: Det er én ting at beskrive kontroller, der kan være relevante for en bestemt type risiko; noget andet er at vise, at de ville have forhindret et konkret sikkerhedsbrud.

Samarbejde med Arm, Intel og Anthropic

Nvidia siger, at selskabet arbejder på at gøre OpenShell anvendelig med Arm- og Intel-processorer, så tilgangen ikke kun er rettet mod Nvidias egne processorer. Anthropic er blandt de partnere, der forbindes med platformens lancering.

Det peger på et ønske om bredere kompatibilitet og udbredelse. Det fastslår ikke i sig selv, at alle partnerne har taget værktøjerne i brug, eller at de samme hardwarefunktioner findes på tværs af forskellige systemer.

Tekniske sikkerhedsforanstaltninger erstatter ikke ansvar

Platformen fokuserer på tekniske kontroller: at definere tilladelser, håndhæve grænser, overvåge aktivitet og reagere på brud på politikker. Sådanne kontroller kan indgå i arbejdet med at sikre AI-agenter, men en produktlancering afgør ikke spørgsmål om ansvar, revision eller regulering.

Nvidias administrerende direktør, Jensen Huang, har argumenteret for, at AI-virksomheder ikke bør fritages fra almindelige regler om konkurrence og erstatningsansvar. Det er en separat holdning fra platformens tekniske design – og en påmindelse om, at sikkerhedsforanstaltninger for AI-agenter og det bredere juridiske ansvar bør vurderes hver for sig.