Wat OpenAI zegt over de pogingen om verborgen GPT-redeneringen los te krijgen

OpenAI zegt een campagne te hebben verstoord waarbij operators probeerden verborgen redeneringen uit GPT-modellen naar boven te halen. Het bedrijf schrijft een kerngroep van de activiteit toe aan personen die banden zouden hebben met Moonshot AI, het bedrijf achter de Kimi-modellen. OpenAI zegt niet dat het de volledige campagne aan Moonshot kan koppelen. Ook zijn de gemelde aantallen pogingen, geen bewijs dat de extracties zijn gelukt.

Wat OpenAI zegt over de campagne

Volgens OpenAI begon de activiteit op 1 juli 2026. Op 24 en 25 juli registreerde het bedrijf 16.000 verzoeken met een extractiepatroon, afkomstig van meer dan 4.000 gebruikers. In een bredere analyse vond OpenAI vergelijkbare promptpatronen bij in totaal meer dan 15.000 gebruikers. Het zegt de betreffende cluster uiterlijk op 28 juli te hebben verstoord.

Bij één beschreven aanpak werd versleutelde redenering uit het ene gesprek gekopieerd. In een ander gesprek werd vervolgens aan een model gevraagd die tekst te ontsleutelen en uit te schrijven. OpenAI zegt dat de operators de versleuteling niet hebben gekraakt en geen toegang kregen tot databases of opgeslagen gesprekken; volgens het bedrijf probeerden ze via modelinteracties beschermde redenering zichtbaar te maken.

OpenAI zegt een kerngroep te kunnen verbinden aan mensen die bij Moonshot AI betrokken waren, maar kan niet vaststellen of alle waargenomen operators tot één actor behoorden. De cijfers beschrijven dus de omvang van pogingen, niet hoeveel bruikbare informatie daadwerkelijk is buitgemaakt.

Andere beschuldigingen: distillatie en doorgestuurde vragen

Een gezamenlijk cyberbeveiligingsadvies van de NSA, CISA en FBI noemt Moonshot AI als een van zes Chinese AI-bedrijven die volgens de diensten op grote schaal capaciteiten uit Amerikaanse frontiermodellen haalden. De genoemde totalen — miljarden tokens via miljoenen verzoeken, sinds ten minste eind 2024 — gelden voor de zes bedrijven samen, niet alleen voor Moonshot. Het advies zegt ook dat verzoeken via verschillende toegangswegen werden gerouteerd, waaronder API’s, clouddiensten en externe aggregators die gebruikersgegevens kunnen verhullen.

Distillatie is op zichzelf een gangbare techniek: een kleiner model wordt getraind met uitvoer van een groter model. De beschuldiging van de Amerikaanse diensten is dat bedrijven die techniek op ongeoorloofde, industriële schaal hebben ingezet om toegang te krijgen tot beschermde capaciteiten.

Anthropic deed daarnaast een afzonderlijke beschuldiging: het bedrijf zegt dat Moonshot klantvragen stilzwijgend doorstuurde naar Claude, in plaats van ze met Kimi af te handelen. In één periode van tien dagen zouden bijna 300.000 verzoeken zijn doorgestuurd, waarvan het merendeel naar Anthropic’s Opus-model. Dat is Anthropic’s lezing van de gebeurtenissen, geen onafhankelijk vastgestelde conclusie.

De opvallende Codex-koppeling

Los van die beschuldigingen werd Kimi K3 via de Amerikaanse inference-provider Baseten beschikbaar voor zakelijke gebruikers binnen OpenAI’s programmeertool Codex. De kosten kunnen volgens de berichtgeving worden verrekend met bestaande uitgavenafspraken met OpenAI, zodat geen aparte leveranciersaankoop nodig is. De integratie werd omschreven als de eerste keer dat een Chinees open model in dat zakelijke betaalkanaal terechtkwam. 31

Dat levert een opmerkelijk contrast op: OpenAI beschuldigt mensen die met Moonshot in verband worden gebracht van pogingen om beschermde modelinformatie te verkrijgen, terwijl een Moonshot-model tegelijk via een partner in het Codex-kanaal beschikbaar kwam. Maar er is in de aangehaalde berichtgeving geen bewijs dat die Codex-regeling de vermeende extractiepogingen mogelijk maakte. 3

Welke beveiligingsmaatregelen zijn genoemd?

Het Amerikaanse advies roept AI-bedrijven op zich te weren tegen industriële, ongeautoriseerde distillatie en beschrijft hoe verzoeken via meerdere kanalen kunnen worden geleid om herkomst te verhullen. De beschikbare informatie hier is onvoldoende om een volledige, precieze lijst met aanbevolen technische maatregelen te geven. Daarom is het verstandig geen specifieke checklist aan de diensten toe te schrijven zonder de volledige aanbevelingstekst erbij te nemen.