OpenAI knytter Moonshot AI til storstilet forsøg på at udtrække skjult ræsonnement

OpenAI siger, at selskabet afbrød en kampagne i juli 2026, hvor operatører forsøgte at få GPT-modeller til at vise beskyttet, skjult ræsonnement. OpenAI knytter en central gruppe – men ikke nødvendigvis hele kampagnen – til personer med forbindelse til Moonshot AI, virksomheden bag Kimi. En amerikansk myndighedsadvarsel fra september og Anthropic har fremsat bredere anklager om modeludtræk og videresendelse af forespørgsler. Det er anklager, ikke dokumentation for, at alle forsøg lykkedes eller kom fra Moonshot. 739

Hvad OpenAI siger skete

Ifølge OpenAI begyndte aktiviteten 1. juli. Den 24. og 25. juli registrerede selskabet 16.000 forespørgsler med et mønster, der skulle udtrække information, fra mere end 4.000 brugere. En bredere undersøgelse fandt lignende promptmønstre blandt over 15.000 brugere, og OpenAI siger, at det afbrød den centrale aktivitet senest 28. juli. 7

En af de beskrevne metoder gik ud på at kopiere krypteret ræsonnement fra én samtale og bede en model i en anden samtale om at afkode og skrive det ud. OpenAI understreger, at tallene tæller forsøg – ikke nødvendigvis vellykkede udtræk. Selskabet siger også, at det ikke kan afgøre, om alle de observerede operatører tilhørte én og samme aktør. 7

Med »skjult ræsonnement« menes her modellens beskyttede interne arbejdsproces, som ikke er tiltænkt at blive vist i det almindelige svar. OpenAI hævder, at kampagnen forsøgte at få denne information frem gennem modelinteraktioner, ikke ved at bryde kryptering eller få direkte adgang til databaser. 7

Hvad myndighederne og Anthropic har anklaget Moonshot for

En fælles amerikansk advarsel fra NSA, CISA og FBI nævner Moonshot blandt seks Kina-baserede virksomheder, som ifølge myndighederne har udtrukket information fra amerikanske avancerede AI-modeller. Advarslen beskriver samlet set milliarder af tokens og millioner af forespørgsler siden mindst slutningen af 2024. Det er samlede tal for de nævnte virksomheder – ikke tal for Moonshot alene. Myndighederne siger også, at forespørgsler blev sendt gennem flere forskellige adgangsveje. 3

Anthropic har separat beskyldt Moonshot for i hemmelighed at videresende tusindvis af brugeres forespørgsler til Claude og præsentere svarene som Moonshots egne, uden at fortælle brugerne det. Anthropic beskriver denne praksis som en del af forsøg på at hente egenskaber ud af Claude til brug i andre modeller. 9

Kimi K3 i Codex: en bemærkelsesværdig kontrast

Samtidig er Moonshots model Kimi K3 blevet tilgængelig for erhvervskunder i OpenAIs kodningsværktøj Codex gennem den amerikanske inferensudbyder Baseten. Ifølge omtalen kan brugen trækkes fra virksomhedernes eksisterende OpenAI-forpligtelser, så de ikke behøver at indgå en særskilt leverandøraftale. Kimi K3 er blevet omtalt som den første kinesiske åbne model i denne kanal. 31

Det gør historien bemærkelsesværdig: En model fra den virksomhed, som OpenAI har knyttet til en udtrækskampagne, kan samtidig bruges gennem en etableret erhvervskanal hos OpenAI. Men den tilgængelige information viser ikke, at Codex-aftalen blev brugt til eller muliggjorde de påståede forsøg på at udtrække ræsonnement. 31

Hvilke sikkerhedstiltag nævnes?

Myndighedsadvarslen opfordrer amerikanske AI-virksomheder til at indføre omfattende detektion og afværgeforanstaltninger mod uautoriseret modeludtræk i stor skala. Den beskriver også, at forespørgsler kan gå gennem flere adgangsveje. Det materiale, der er tilgængeligt her, giver dog ikke grundlag for at gengive en fuldstændig, detaljeret tjekliste over anbefalingerne. 3