Nvidias AI-allianse går fra lobbyvirksomhet til sikkerhet på én uke

Målet er å gjøre enkelthendelser om til felles forsvarsinformasjon. I stedet for at hvert selskap må håndtere prompt-injeksjon, datalekkasje eller en agent som oppfører seg uventet som et isolert problem, skal erfaringene kunne omsettes til bredere sikkerhetstiltak.

En sikkerhetsplattform i flere lag

SAFE er bare én del av OSAA. Alliansen samler også åpne og etterprøvbare teknologier som skal håndtere ulike deler av sikkerheten rundt AI-agenter.

Blant bidragene som er omtalt, finner vi:

• Nvidia: åpne modellfamilier, OpenShell for å begrense hva en agent får se, bruke og gjøre, samt verktøy for testing og revisjon av agentatferd. Nvidia bidrar også med Garak, en åpen skanner for blant annet datalekkasje, prompt-injeksjon og jailbreak-forsøk.
• Okta: referanseimplementasjoner for agentidentitet og tilgang, basert på Cross App Access-protokollen. Tanken er å koble agenter til virksomhetens applikasjoner i mer kontrollerte miljøer.
• Red Hat: asago, et åpent styringsprosjekt som skal knytte organisasjonens regler til tillatelser i kjøretid og skape en etterprøvbar linje fra policy til kontroll.
• Amazon: Strands Agents, et åpent verktøysett for å bygge og evaluere agenter, sammen med autorisasjonsspråket Cedar.
• Andre medlemmer: identitetsorienterte prosjekter som Agent Guard og Agent Watch, noe som understreker at agentsikkerhet handler om mer enn å skanne selve modellen.

Samlet dekker bidragene identitet, tilgang, agentrammeverk, kjøretidsatferd, evaluering, data, styring og motstandsdyktighet. På sikt kan dette gi virksomheter et felles sett med åpne kontroller for å begrense og overvåke AI-agenter – også når en agent oppfører seg skadelig eller beveger seg utenfor det tiltenkte området.

Men dette er foreløpig en mulighet, ikke et dokumentert resultat.

Hvem er med – og hvem mangler?

OSAA skal ha fått over 120 organisasjoner i løpet av den første uken. Blant de større aktørene som er nevnt, er Nvidia, Adobe, BlackRock, Cisco, CrowdStrike, Hugging Face, Intel, Microsoft, Red Hat og Visa. Amazon er omtalt som et nyere medlem.

Alliansen kom kort tid etter et åpent brev datert 24. juli, der teknologiselskaper ba amerikanske myndigheter unngå brede eller for tidlige begrensninger på åpne AI-modeller. Brevet ble først støttet av 25 selskaper, blant andre Nvidia, Microsoft, Meta, IBM, Dell, Palantir og Hugging Face. Argumentet var at begrensninger på modeller som kan lastes ned, kan svekke konkurransen og sende flere brukere mot kinesiske AI-systemer mens Washington vurderte sin nasjonale sikkerhetspolitikk.

Da OSAA ble omtalt under Black Hat, ble Anthropic, OpenAI og Google trukket frem som bemerkelsesverdige fraværende fra alliansen. Bildet rundt det tidligere brevet er imidlertid mer uklart: Kildene spriker om den senere listen over underskrivere. Enkelte rapporter sier at OpenAI og Google kom til senere, mens andre beskriver dem som fraværende fra den opprinnelige gruppen.

Det finnes ikke tilstrekkelig dokumentasjon i de tilgjengelige kildene til å si hvorfor disse selskapene ikke hadde sluttet seg til OSAA. Fraværet bør derfor ikke tillegges en bestemt motivasjon.

Hvorfor tempoet er viktig

OSAA bygger på ideen om at åpenhet og sikkerhet ikke nødvendigvis står i motsetning til hverandre. Åpne modeller, verktøy, evalueringer og erfaringer fra hendelser kan gjøre det mulig for flere forsvarere å undersøke feil, gjenskape sårbarheter og tilpasse mottiltak. SAFE forsøker samtidig å ivareta konfidensialitet når hendelser samles inn og analyseres, slik at mer generelle lærdommer kan deles bredere.

Alliansens sammensetning på tvers av bransjer kan også bidra til felles grensesnitt og arbeidsmåter mellom modellutviklere, skyleverandører, infrastrukturselskaper, identitetsspesialister, sikkerhetsleverandører og virksomheter.

Hvis arbeidet modnes, kan det gjøre åpne AI-systemer enklere å evaluere, kontrollere og ta i bruk på en ansvarlig måte. Det kan igjen støtte det bredere politiske argumentet om at åpne modeller er et spørsmål om amerikansk konkurransekraft, særlig mens amerikanske myndigheter diskuterer hvordan de skal møte kinesiske AI-laboratorier.

OSAA har likevel ikke vist at alliansen allerede har styrket amerikansk konkurransekraft eller redusert systemisk AI-risiko. Det mest målbare resultatet så langt er mer avgrenset: En koalisjon på over 120 organisasjoner har gått fra å argumentere for åpne AI-modeller til å legge frem et offentlig utkast for koordinert rapportering av AI-sikkerhetshendelser. Samtidig bidrar medlemmene med verktøy som over tid kan danne et mer samkjørt forsvarslag.