Derfor ber Ro Khanna fem AI-selskaper redegjøre for sikkerheten rundt modellvektene

Den amerikanske kongressrepresentanten Ro Khanna vil vite om Kina eller andre aktører har forsøkt å skaffe seg uautorisert tilgang til de avanserte AI-modellene til OpenAI, Anthropic, Google, Meta og SpaceX. Han ber også selskapene beskrive hvordan de beskytter modellvektene sine.713

Bak spørsmålet ligger en konkret bekymring: Den som får tak i modellvektene, kan i prinsippet kjøre en kopi av modellen. Khanna frykter at et slikt tyveri kan svekke USAs forsprang innen AI og skape risiko for nasjonal sikkerhet.46 Men forespørselen er en undersøkelse av hva selskapene vet og hvor godt de beskytter seg – ikke en påstand om at Kina allerede har stjålet vektene deres.1113

Modelltyveri er ikke det samme som destillering

Modellvekter er de numeriske parameterne som er lært under trening, og som er med på å bestemme hvordan modellen fungerer. Ved et direkte tyveri får noen tilgang til disse parameterne. Destillering er annerledes: Da brukes svarene fra en eksisterende modell til å trene en annen modell, uten at man dermed har fått selve modellvektene.617

Amerikanske myndigheter har anklaget kinesiske AI-selskaper for å bruke destillering, og OpenAI og Anthropic har rapportert flere slike tilfeller. Samtidig er det få kjente tilfeller av at en aktør faktisk har stjålet modellvekter.617 Det er denne forskjellen Khannas henvendelse retter oppmerksomheten mot: Han spør om forsøk på den mer direkte formen for tilgang, ikke bare om bruk av modellutdata.

Sikkerhet, konkurranse og samarbeid

For Khanna handler beskyttelse av avanserte modeller både om cybersikkerhet og om hvem som får tilgang til kraftige AI-egenskaper. Han har også tatt til orde for samarbeid mellom USA og Kina om sikkerhetsregler, kontroll og verifisering. Analytikere har advart om at skjerpede konflikter om påstått kopiering kan gjøre slikt samarbeid vanskeligere.2518

Det finnes samtidig en politisk spenning rundt hvem som skal sørge for sikkerheten. Trump-administrasjonen har foreslått at enkelte avanserte modeller frivillig kan sendes inn til offentlige cybersikkerhetstester før lansering. Administrasjonen har også støttet en mer frivillig tilnærming der bransjen forplikter seg til egne kontrolltiltak. Khannas spørsmål retter søkelyset mot hva selskapene faktisk gjør for å beskytte modellene sine.

Det foreliggende materialet viser ikke at frivillig testing vil forhindre tyveri av modellvekter, og det dokumenterer heller ikke at noen av de fem selskapenes vekter er blitt stjålet.613 Derfor er redegjørelsene Khanna ber om viktige: De kan vise hva selskapene vet om mulige forsøk, og hvilke forsvarstiltak de sier at de har på plass.