OpenAI: Storskaliga försök att få GPT-modeller att röja dolt resonemang

OpenAI uppger att företaget stoppade en kampanj i juli 2026 som försökte få GPT-modeller att visa skyddat, internt resonemang. Företaget kopplar en kärngrupp av aktiviteten till personer med anknytning till Moonshot AI, bolaget bakom Kimi. OpenAI säger däremot inte att hela kampanjen kan tillskrivas Moonshot eller att alla observerade aktörer tillhörde samma grupp. 7

Det är en viktig skillnad: uppgifterna beskriver försök att komma åt information – inte att alla försök lyckades.

OpenAI:s uppgifter om omfattningen

OpenAI säger att aktiviteten började den 1 juli. Den 24 och 25 juli såg företaget 16 000 förfrågningar från fler än 4 000 användare som följde ett mönster för att försöka extrahera resonemang. En bredare granskning fann liknande promptmönster bland över 15 000 användare. Företaget uppger att det hade stoppat den aktuella gruppen senast den 28 juli. 7

En av metoderna ska ha gått ut på att kopiera krypterat resonemang från en konversation och be en modell i en annan konversation att dekryptera och skriva ut det. OpenAI betonar att siffrorna gäller försök till extraktion, inte nödvändigtvis lyckade uttag. Företaget säger också att det inte kan avgöra om alla operatörer hade samma uppdragsgivare. 7

Myndighetsvarningen och Anthropics anklagelser

En gemensam varning från NSA, CISA och FBI pekar ut Moonshot bland sex Kina-baserade bolag som enligt myndigheterna har bedrivit storskalig modellutvinning. Varningen beskriver sammanlagt miljarder token och miljontals förfrågningar till amerikanska avancerade AI-modeller sedan åtminstone slutet av 2024. De totalsiffrorna gäller alla sex bolagen tillsammans, inte Moonshot ensamt. Myndigheterna säger att förfrågningar har skickats genom flera olika åtkomstvägar. 3

Separat har Anthropic anklagat Moonshot för att i hemlighet ha vidarebefordrat tusentals användarförfrågningar till Claude och presenterat svaren som sina egna, utan att informera användarna. Det är Anthropics anklagelse; den ska inte blandas ihop med OpenAI:s uppgifter om försöken att få fram GPT-modellers skyddade resonemang. 9

Kimi K3 i Codex – en separat utveckling

I en uppmärksammad parallell utveckling har Moonshots modell Kimi K3 blivit tillgänglig för företagskunder via OpenAI:s programmeringsverktyg Codex, genom den amerikanska inferensleverantören Baseten. Användningen kan räknas av mot kundernas befintliga OpenAI-åtaganden, i stället för att kräva ett separat leverantörsavtal. Det har beskrivits som första gången en kinesisk modell med öppna vikter kommit in i den här typen av inköpskanal. 31

Kopplingen kan verka motsägelsefull mot anklagelserna, men det finns inget i de rapporterade uppgifterna som visar att Codex-integrationen användes för den påstådda extraktionen.

Vad säger varningen om skyddsåtgärder?

Myndighetsvarningen uppmanar amerikanska AI-företag att stärka upptäckt och begränsning av obehörig modellutvinning i stor skala. Den pekar också på att förfrågningar kan gå via flera kanaler. Det tillgängliga underlaget här räcker däremot inte för att säkert återge en fullständig och detaljerad lista över myndigheternas rekommenderade kontroller. 3