Ro Khanna frågar AI-jättar om försök att stjäla modellvikter

Ro Khanna vill få klarhet i om Kina eller andra aktörer har försökt ta sig in i AI-företagens system för att komma åt deras modellvikter. Han har bett OpenAI, Anthropic, Google, Meta och SpaceX att redogöra för vad de känner till om sådana försök och beskriva sina cybersäkerhetsåtgärder.4713

Bakgrunden är att modellvikterna kan ge tillgång till själva den tränade modellen. Khanna varnar för att ett lyckat angrepp skulle kunna urholka USA:s försprång inom AI och innebära risker för den nationella säkerheten. Hans begäran är en fråga om huruvida intrångsförsök har förekommit och hur företagen skyddar sig – inte ett påstående om att någon redan har stulit deras modellvikter.413

Modellstöld är inte samma sak som destillering

Modellvikter är de numeriska parametrar som har formats under träningen och som gör att en AI-modell kan fungera. Om någon kommer över dem kan det i praktiken innebära tillgång till en kopia av modellen.7

Destillering är något annat. Då tränas en ny modell med hjälp av svar från en större, redan existerande modell. Amerikanska myndigheter har anklagat kinesiska AI-företag för att använda den metoden, och OpenAI och Anthropic har rapporterat om sådana aktiviteter. Reuters rapporterar samtidigt att det finns få kända fall där någon faktiskt stulit modellvikter.61317

Skillnaden är central: destillering innebär att en annan modell lär sig från den ursprungligas resultat, medan stöld av vikterna handlar om att komma åt själva modellens parametrar. Det är den senare risken som Khannas frågor specifikt gäller.

Säkerhet, konkurrens och internationella regler

För Khanna handlar frågan både om att skydda företagens system och om att begränsa spridningen av avancerad AI-teknik. Han har också efterlyst en överenskommelse mellan USA och Kina om säkerhetsregler och kontrollmekanismer för AI.2514

Här finns en politisk målkonflikt. Trumpadministrationen har föreslagit att vissa avancerade modeller frivilligt ska lämnas in för statliga cybersäkerhetstester före lansering. Samtidigt har administrationen lyft fram företagens egna åtaganden om att övervaka och skydda sina modeller. Khannas frågor sätter fokus på vad bolagen faktiskt gör för att skydda modellvikterna – men det tillgängliga underlaget visar inte att frivilliga tester skulle förhindra sådan stöld, eller att något av de fem företagen har fått sina vikter stulna.71113

Det finns också en diplomatisk avvägning: hårdare anklagelser och konflikter om kopiering kan försvåra samarbetet mellan USA och Kina om AI-säkerhet, enligt analytiker.18