Ro Khanna vil vide, om AI-modeller kan beskyttes mod tyveri

Ro Khanna vil vide, om nogle af USA’s største AI-virksomheder har oplevet forsøg på at stjæle deres modellers vægte – og hvilke sikkerhedsforanstaltninger de har på plads. Han har bedt OpenAI, Anthropic, Google, Meta og xAI om oplysninger om mulige forsøg fra Kina eller andre fjendtlige aktører. Pointen er ikke kun, om konkurrenter kan efterligne en models resultater, men om de kan få fat i selve modellens indlærte grundlag.3

Vægttyveri er ikke det samme som distillation

En AI-models vægte er de indlærte parametre, der er med til at bestemme, hvordan modellen behandler information og skaber svar. Hvis nogen får fat i de faktiske vægte, er det derfor noget andet end blot at bruge modellen gennem en tjeneste eller kopiere dens stil.

Ved distillation bruger man derimod en models svar til at træne en anden model. OpenAI og Anthropic har rapporteret om distillation med forbindelse til kinesiske AI-virksomheder, men der er kun få kendte tilfælde, hvor en aktør har stjålet selve modelvægtene. Oplysninger om distillation er altså ikke i sig selv bevis på, at vægtene er blevet stjålet.3

Khanna har tidligere spurgt til forskellen mellem distillation og risikoen for, at modelvægte bliver stjålet. I den forbindelse blev det fremhævet, at vægte kan være svære at beskytte, hvis en aktør forsøger at få fat i dem. Det tilgængelige materiale fastslår dog ikke, at Kina har stjålet vægtene fra nogen af de virksomheder, Khanna har spurgt.

Hvorfor det handler om national sikkerhed

Bekymringen er, at adgang til vægtene kan give en fremmed aktør en kopi af en avanceret model, som kan bruges uden om udviklerens egen tjeneste og de begrænsninger, der følger med den. Det gør cybersikkerhed til mere end et spørgsmål om at beskytte forretningshemmeligheder: Det handler også om, hvem der kan få adgang til og anvende avancerede AI-systemer.

Samtidig er det vigtigt at skelne mellem en mulig risiko og dokumenteret tyveri. De offentligt beskrevne oplysninger peger på rapporter om distillation, men fastslår ikke, at de navngivne virksomheders vægte er blevet stjålet.3

Frivillige løfter eller bindende regler?

Trump-administrationen har lagt vægt på frivillige sikkerhedstiltag fra branchen. I en frivillig ordning meldte administrationen også ud, at den ikke ville sikkerhedsteste modeller med åbne vægte.9 Frivillige aftaler kan få virksomheder til at indføre fælles procedurer, men de er ikke det samme som lovkrav med offentligt tilsyn.

Khanna argumenterer for en mere bindende tilgang. Han har efterlyst obligatoriske modelrevisioner og et stærkere offentligt tilsyn, og han ønsker en verificerbar aftale mellem USA og Kina om AI-sikkerhed.25 Hans spørgsmål til virksomhederne lægger dermed pres på dem for at dokumentere, at deres egne sikkerhedsforanstaltninger er tilstrækkelige.

De oplysninger, der er offentligt tilgængelige, fastslår ikke, hvilke konkrete sikkerhedsforanstaltninger virksomhederne har, eller om de har været udsat for forsøg på indbrud, som ikke er blevet offentliggjort.