USA: Kinesiska AI-bolag ska ha utvunnit miljarder token från amerikanska modeller

NSA, CISA och FBI anklagar sex Kinabaserade AI-bolag för att systematiskt ha försökt utvinna proprietära funktioner och kapaciteter från amerikanska toppmodeller genom AI-destillering i industriell skala. Det är myndigheternas anklagelser – inte ett rättsligt fastställt avgörande. 12

Vad myndigheterna påstår

Enligt den gemensamma cybersäkerhetsvarningen har DeepSeek, Moonshot AI, Alibaba, MiniMax, StepFun och Z.AI sedan åtminstone slutet av 2024 hämtat miljarder token genom miljontals interaktioner med varianter av Claude, GPT, Gemini och Grok. Myndigheterna bedömer att verksamheten sannolikt skett med den kinesiska statens kännedom. 1

Varningen beskriver AI-destillering som en i grunden legitim metod: en mindre kapabel modell tränas med svar från en starkare modell. Men i det här fallet hävdar myndigheterna att metoden använts aggressivt och riktat för att extrahera begränsade, egna funktioner ur amerikanska modeller – och att detta varit en kärndel, snarare än ett sidospår, i bolagens utvecklingsstrategier. 12

De påstådda vägarna in omfattade modellföretagens egna API:er, externa molntjänster och tredjepartsaggregatorer som kan dölja kunduppgifter. Varningen nämner också så kallade transfer stations – proxytjänster som enligt myndigheterna kan användas för att kringgå geografiska begränsningar, skyddsåtgärder, användarvillkor och spårbarhet. 1

Myndigheterna pekar dessutom på storskaliga köp och delning av premiumabonnemang, automatisk växling mellan åtkomstvägar när en väg blockeras, försök att hämta ut resonemangskedjor samt utvärderingssystem som ska upptäcka när modellleverantörer ändrar sina skydd eller svar. 1

Det tillhandahållna underlaget styrker förekomsten av gråmarknadstjänster av typen transfer stations, men inte specifikt uppgifterna om marknadsplatserna Taobao och Xianyu.

Anklagelserna mot de enskilda bolagen

DeepSeek

Myndigheterna hävdar att DeepSeek från slutet av 2024 drev en organiserad kampanj för att skapa syntetisk träningsdata till modellerna R1 och V3. Målet ska ha varit att komma åt resonemangsförmåga, domänspecifik kunskap och specialiserade funktioner för att sänka kostnader för forskning och beräkningskapacitet. 1

I varningen nämns bland annat optimering för juridisk specialisering, regelstyrda API-uppgifter, utkast med resonemangskedjor, agentfunktioner, fråge- och svarsoptimering, coachnings- och assistentfunktioner, skapande av funktioner, optimering av övervakad finjustering samt kreativt och yrkesinriktat skrivande. 1

DeepSeek ska enligt myndigheterna ha använt resultat från varianter av Claude, Gemini, GPT och Grok. De hävdar också att bolagets offentligt angivna träningskostnad på 5,6 miljoner dollar inte inkluderade kostnaden eller värdet av den data som påstås ha inhämtats genom destillering. 1

Moonshot AI

Moonshot AI anklagas för en omfattande kampanj sedan mitten av 2025. Enligt varningen användes betydande mängder data från Claude Fable 5 för Kimi-K3 och data från GPT-4o för Kimi-K2. 1

De eftersträvade kapaciteterna uppges ha omfattat övervakad finjustering, förstärkningsinlärning, mjukvaruutveckling och matematik. 1

Alibaba, MiniMax, StepFun och Z.AI

Alibaba anklagas för destillering i industriell skala för att förbättra sin Qwen-modellfamilj. 1

MiniMax, StepFun och Z.AI pekas också ut för vad myndigheterna beskriver som skadlig destillering av amerikanska modeller. För MiniMax innehåller det tillhandahållna materialet dock inga mer detaljerade uppgifter om en särskild kampanj, modell eller eftersträvad kapacitet utöver den övergripande anklagelsen. 1

Myndigheternas rekommenderade motåtgärder

Varningen rekommenderar AI-företag att vidta tre omedelbara åtgärder: 1

1. Upptäck och begränsa avvikelser. Identifiera misstänkta promptar, konton, nätverk och användningsmönster. Exempel är ovanligt hög användning i förhållande till abonnemang, nya konton som omedelbart når högsta möjliga nyttjandegrad och trafikvolymer som liknar företagsanvändning. 1

2. Anpassa svaren selektivt. Modellsvar kan ändras diskret för misstänkta utvinningsförsök, så att materialet blir mindre användbart för en destilleringskampanj utan att avslöja hur upptäckten gjorts. 1

3. Dela underrättelser mellan aktörer. Modellleverantörer, molnplattformar och API-aggregatorer bör samordna information för att koppla ihop aktiviteter som avsiktligt sprids över flera leverantörer och åtkomstvägar. 1

CISA:s bredare vägledning stödjer också frivillig delning av AI-relaterad cybersäkerhetsinformation mellan myndigheter och näringsliv, bland annat genom Joint Cyber Defense Collaborative. 4

Vad underlaget inte fastställer

De tillhandahållna huvudkällorna innehåller ingen kinesisk regeringsreaktion eller kommentar från utrikesdepartementets talesperson Mao Ning. De styrker inte heller i sig uppgifter om konkreta hot från USA:s finansminister Scott Bessent om sanktioner eller placering på den så kallade Entity List.

Underlaget fastställer inte heller någon koppling mellan varningen och planerade AI-säkerhetssamtal mellan USA och Kina i mitten av september, och dokumenterar inte oberoende att avståndet i prestanda mellan kinesiska och amerikanska AI-system har minskat. Påståendet om att Google ska ha identifierat kampanjer med över 100 miljoner promptar styrks inte heller av de källor som ligger till grund för artikeln.