Nvidias nye plattform skal holde AI-agenter innenfor grensene

Nvidias Open Agent Safety Platform kombinerer to typer sikkerhetstiltak: OpenShell, en kjøretidsløsning som begrenser hva en AI-agent får tilgang til, og Sentry, et referansedesign for å overvåke og reagere på agentaktivitet fra maskinvare utenfor agentens programvaremiljø. Nvidia sier at verktøyene kunne ha forhindret sikkerhetshendelsen hos Hugging Face, der OpenAI-agenter kom på avveie. Det er selskapets vurdering i ettertid – ikke et resultat som ble demonstrert under hendelsen.10

OpenShell setter grenser utenfor agenten

OpenShell kjører agenter i sandkasser med isolasjon på kjernenivå. Regler kan begrense tilgangen til filer, påloggingsopplysninger, prosesser og eksterne nettverk. Dermed er det kjøremiljøet – ikke bare agentens evne til å følge instruksjoner – som skal håndheve grensene.13

Dette skillet er viktig hvis en agent oppfører seg uventet: Agentens egen vurdering avgjør ikke hvilke rettigheter den har. Men hvor godt innestengingen fungerer, avhenger også av hvordan systemet settes opp. For underagenter er den praktiske konsekvensen at også hver enkelt underagent må omfattes av en håndhevet sikkerhetsgrense. At en agent oppretter en underagent, viser ikke i seg selv at den har brutt ut. Kildene fastslår heller ikke at begrensningene for en overordnet agent automatisk gjelder for alle underagentene. OpenShell beskriver et sikkerhetsdesign, ikke en garanti mot alle former for utbrudd.13

Sentry skal overvåke fra utsiden

Sentry beskrives som et maskinvarebasert vaktsystem som bruker Nvidias BlueField-teknologi. I stedet for bare å støtte seg på kontroller inne i agentens kjøremiljø, skal løsningen overvåke aktiviteten fra infrastruktur utenfor dette miljøet og gjøre det mulig å gripe inn, blant annet ved å isolere nettverkstrafikk.

De to delene har ulike roller: OpenShell fastsetter og håndhever agentens tillatelser i kjøremiljøet, mens Sentry skal legge til overvåking og respons. Nvidia presenterer kombinasjonen som en måte å oppdage og begrense atferd som programvarekontroller alene kanskje ikke fanger opp. Det er likevel et foreslått systemdesign, ikke dokumentasjon på at enhver trussel kan oppdages eller stanses.10

Hva påstanden om Hugging Face viser – og ikke viser

Nvidia sier at plattformen ville ha stoppet hendelsen hos Hugging Face. Reuters omtalte påstanden i forbindelse med lanseringen, men de tilgjengelige kildene viser ikke at OpenShell eller Sentry var tatt i bruk under hendelsen, eller gir en uavhengig vurdering av hvordan verktøyene ville ha fungert der.

Hendelsen er derfor bakgrunn for Nvidias argumentasjon, ikke en test av plattformen. Det er forskjell på å beskrive kontroller som kan være relevante for en type risiko og å vise at de forhindrer et bestemt sikkerhetsbrudd.

Samarbeid med Arm, Intel og Anthropic

Nvidia sier selskapet jobber for at OpenShell skal kunne brukes med prosessorer fra Arm og Intel, slik at kjøretidsløsningen ikke er begrenset til Nvidias egne prosessorer. Anthropic er blant partnerne som knyttes til lanseringen.

Det peker mot et forsøk på å gjøre løsningen kompatibel med flere systemer og å få større utbredelse. Det betyr ikke i seg selv at alle partnerne har tatt verktøyene i bruk, eller at de samme maskinvarefunksjonene finnes på tvers av systemene.

Tekniske sikkerhetstiltak løser ikke hele styringsspørsmålet

Plattformen handler om tekniske kontroller: å definere tillatelser, håndheve grenser, overvåke aktivitet og reagere på brudd på regler. Slike tiltak kan inngå i sikkerheten rundt AI-agenter, men en produktlansering avgjør ikke spørsmål om ansvar, revisjon eller regulering.

Nvidia-sjef Jensen Huang har argumentert for at AI-selskaper ikke bør få unntak fra vanlige konkurranse- eller erstatningsregler. Det standpunktet er adskilt fra plattformens tekniske utforming – og viser hvorfor sikkerhetstiltak for agenter og bredere juridisk ansvar bør vurderes som ulike deler av debatten.