Ro Khanna vill ha svar om försök att stjäla AI-modellernas vikter

Ro Khanna vill veta om OpenAI, Anthropic, Google, Meta och xAI har upptäckt försök från Kina eller andra fientliga aktörer att olovligen komma åt deras AI-modellvikter – och vilka cybersäkerhetsåtgärder bolagen har på plats. Frågan gäller om bolagen kan skydda själva modellerna, inte bara hindra konkurrenter från att kopiera deras resultat.3

Modellstöld är något annat än destillering

Modellvikter är de parametrar som en AI-modell har lärt sig under träningen och som formar hur den fungerar. Att stjäla vikterna innebär alltså att komma åt modellens centrala komponenter. Destillering går till på ett annat sätt: en aktör använder svar från en befintlig modell för att träna en egen.310

OpenAI och Anthropic har rapporterat om destillering kopplad till kinesiska AI-bolag. Men rapporteringen pekar på få kända fall där någon faktiskt har stulit modellvikter. Uppgifter om destillering ska därför inte blandas ihop med belägg för att de ursprungliga vikterna har kommit på avvägar.310

Skillnaden spelar roll för säkerheten. Om en aktör får tag i vikterna får den tillgång till modellens inlärda parametrar, i stället för att enbart kunna ställa frågor till en tjänst som bolaget kontrollerar. Khanna har också lyft fram modellvikter som en särskild fråga vid sidan av destillering. Det underlag som finns här visar däremot inte att Kina framgångsrikt har stulit vikterna från något av bolagen i frågan.3

En konflikt om vem som ska sätta reglerna

President Donald Trumps administration har satsat på frivilliga åtaganden från AI-branschen, bland annat arbete med externa granskare och interna säkerhetskontroller.9 Reuters har samtidigt rapporterat att administrationen inte avsåg att säkerhetstesta modeller med öppet tillgängliga vikter inom ett frivilligt testupplägg.

Khanna vill gå längre: han har förespråkat obligatoriska granskningar och starkare statlig tillsyn, liksom ett bindande och verifierbart avtal mellan USA och Kina om AI-säkerhet.5 Hans frågor till bolagen sätter därmed fokus på om frivilliga säkerhetslöften räcker – eller om staten behöver ställa tydligare krav.2

Det är viktigt att skilja mellan risk och belägg. De tillgängliga uppgifterna fastslår inte vilka säkerhetsåtgärder bolagen använder eller om de har haft intrångsförsök som inte offentliggjorts.