AI-destillering blev en stridsfråga inför Trump–Xi-mötet

Inför det planerade mötet i Vita huset den 24 september hamnade en teknisk metod mitt i relationen mellan USA och Kina. Amerikanska myndigheter hävdade att kinesiska utvecklare hade använt AI-destillering för att föra över förmågor från amerikanska modeller utan tillstånd. Peking avvisade anklagelserna. Samtidigt undersökte länderna om de kunde samarbeta på ett smalare område: att varna varandra om allvarliga AI-incidenter.1713919

Vad betyder destillering – och var går gränsen?

Vid modelldestillering används svar från en AI-modell för att träna en annan, ofta mindre och billigare modell. Det är en etablerad metod inom AI-forskningen, inte ett annat ord för stöld.48

Den avgörande frågan här är om utvecklaren hade rätt att använda svaren. Att destillera egna modeller, eller göra det med tillstånd, skiljer sig från att samla in en konkurrents svar genom vilseledande åtkomst i strid med dess begränsningar. Kina har påpekat att metoden används brett, även av amerikanska företag. Det avgör inte om de metoder som USA tillskriver enskilda företag var tillåtna.235 Det tillgängliga underlaget fastställer inte självständigt hur Anthropic använder destillering i sin egen modellutveckling.

Vad anklagade USA företagen för?

I ett gemensamt meddelande den 8 september varnade FBI, signalspaningsmyndigheten NSA och cybersäkerhetsmyndigheten CISA för vad de beskrev som skadlig destillering i industriell skala riktad mot amerikanska AI-företag.1 Myndigheterna namngav DeepSeek, Moonshot AI, Alibaba, MiniMax, StepFun och Z.AI. Enligt deras anklagelser hade företagen sedan åtminstone slutet av 2024 hämtat ut miljarder textenheter, så kallade token, genom miljontals förfrågningar till avancerade modeller – däribland varianter av Anthropics Claude, OpenAI:s GPT, Googles Gemini och xAI:s Grok.1614

Rapporteringen om myndigheternas meddelande beskriver påstådd användning av falska konton och proxynätverk för att komma åt svaren.5 Myndigheterna bedömde att verksamheten sannolikt skedde med den kinesiska regeringens vetskap. Det är inte detsamma som att de slog fast att regeringen styrde den.16 Uppgifterna är amerikanska anklagelser, inte ett fastslaget skuldavgörande mot vart och ett av företagen. Anthropic har separat anklagat DeepSeek och Moonshot för att ha skickat vissa användarförfrågningar vidare till Claude.49

Frågan hade väckts redan före september. I juli anklagade Vita husets teknikrådgivare Michael Kratsios Moonshot för ett storskaligt försök att genom destillering komma åt ledande amerikanska modellers förmågor.47 Det tillgängliga underlaget visar däremot inte att DeepSeeks prestanda eller effektivitet i sig utlöste OpenAI:s anklagelser – och sådana resultat skulle inte heller bevisa otillåten åtkomst.

Hur svarade Kina?

Kinesiska företrädare avvisade påståendena om skadlig utvinning av modellförmågor.49 Den statliga tidningen Folkets dagblad argumenterade för att AI inte ska vara ett ”stormaktsmonopol” och efterlyste samarbete om riskhantering utan diskriminerande villkor för utvecklingen.33 Tidningen beskrev därmed tvisten också som en fråga om huruvida USA:s försök att skydda sin teknik begränsar Kinas möjligheter att utveckla AI.39

Parterna talar delvis om olika saker: Kina framhåller att destillering som metod är legitim, medan USA:s anklagelser gäller hur vissa företag påstås ha fått tillgång till skyddade svar. Det tillgängliga underlaget ger inte en tillförlitlig bild av hur vart och ett av de sex namngivna företagen svarade; avsaknaden av uppgifter ska inte tolkas som att ett visst företag teg.

Vad kunde länderna samarbeta om?

AI-konkurrensen väntades prägla mötet, även när tjänstemän diskuterade gemensamma risker.1734 Trump förespråkade offentligt beteckningen ”superintelligens” eftersom han tyckte att ”artificiell intelligens” lät påhittat. Det ordvalet var i sig inget politiskt beslut från toppmötet.50 Det tillgängliga underlaget fastställer inte heller uppgifterna om en särskild ”AI Force” eller ”AI Czar”, ett formellt avvisande av säkerhetsregler eller konkreta åtaganden från Xi om mänsklig kontroll.

Efter samtal med Kinas vice premiärminister He Lifeng i New York sade USA:s finansminister Scott Bessent att Washington hade föreslagit en mekanism för att meddela varandra om AI-incidenter som är så allvarliga att de kan påverka nationell säkerhet. Trump och Xi skulle ta ställning till idén. Rapporteringen belägger ett förslag, inte att en fungerande mekanism hade inrättats.1819

En sådan kontaktväg skulle kunna göra det lättare att snabbt kommunicera om en farlig incident. Den skulle inte i sig lösa anklagelserna om destillering eller ändra USA:s exportrestriktioner för avancerade AI-chip, som också skapar friktion mellan länderna.1940 Den större frågan är om Washington och Peking kan skilja legitim modellträning från otillåten utvinning – och samtidigt hålla samtalskanaler öppna om risker som berör båda.174818