Ro Khanna vil vite om AI-selskaper har oppdaget forsøk på å stjele modellene deres

Ro Khanna vil vite om noen har forsøkt å skaffe seg ulovlig tilgang til de mest verdifulle AI-modellene hos OpenAI, Anthropic, Google, Meta og xAI – og hvilke digitale sikkerhetstiltak selskapene har på plass. Poenget er ikke bare om konkurrenter kan lage modeller som ligner, men om selve modellene kan havne utenfor selskapenes kontroll.310

Modellvekter er ikke det samme som modellens svar

Modellvekter er de innlærte parameterne som utgjør selve modellen. Å stjele dem innebærer å få tak i modellens underliggende «oppskrift». Det er noe annet enn destillering, der et selskap bruker svarene fra en eksisterende modell til å trene sin egen.

OpenAI og Anthropic har meldt om destillering knyttet til kinesiske AI-selskaper. Men slike rapporter er ikke bevis på at modellvektene ble stjålet. Det er få kjente tilfeller av faktisk tyveri av modellvekter, ifølge omtalen av Khannas spørsmål.310 Khanna har også skilt mellom destillering gjennom å hente ut svar og risikoen for at noen stjeler vektene.

Hvorfor er tilgang til vektene en sikkerhetssak?

Dersom en uvedkommende får tak i modellvektene, kan modellen i prinsippet brukes utenom tjenestene og sikkerhetskontrollene selskapet selv tilbyr. Det gjør beskyttelse av vektene til mer enn et spørsmål om forretningshemmeligheter: Det handler også om hvem som kan bruke en avansert modell, og under hvilke rammer.510

Men Khannas krav om opplysninger må ikke forveksles med dokumentasjon på at et slikt tyveri har skjedd. Det tilgjengelige materialet fastslår ikke at Kina har stjålet vektene til noen av selskapene han nevner.10 Det oppgir heller ikke hvilke konkrete sikkerhetstiltak selskapene har, eller om de har hatt forsøk som ikke er offentlig kjent.

Frivillige løfter eller bindende regler?

Her ligger også en større politisk uenighet. Trump-administrasjonen har lagt vekt på frivillige sikkerhetstiltak fra teknologibransjen.9 I en frivillig ordning sa administrasjonen at den ikke ville sikkerhetsteste modeller med åpne vekter.

Khanna argumenterer på sin side for mer offentlig innsyn og bindende rammer. Han har tatt til orde for obligatoriske revisjoner av AI-modeller og en verifiserbar avtale mellom USA og Kina om AI-sikkerhet.25 Brevene hans ber selskapene legge fram opplysninger som kan vise om deres egne sikkerhetstiltak er gode nok – ikke bare forsikre om at de er det.3

Dermed handler spørsmålet både om mulig industrispionasje og om hvem som skal ha ansvaret for å forebygge risiko: AI-selskapene selv, myndighetene eller begge deler.