OpenAI knytter forsøk på å hente ut skjult resonnering til Moonshot AI

OpenAI sier at selskapet stanset en kampanje som forsøkte å få GPT-modeller til å vise beskyttet, skjult resonnering. Selskapet knytter en kjernegruppe av aktiviteten til personer med tilknytning til Moonshot AI, som utvikler Kimi-modellene. OpenAI sier samtidig at det ikke kan fastslå om alle aktørene i kampanjen tilhørte én og samme gruppe.

Hva OpenAI sier skjedde

Ifølge OpenAI begynte aktiviteten 1. juli 2026. Den 24. og 25. juli registrerte selskapet 16 000 forespørsler fra over 4 000 brukere som fulgte et mønster det mente var laget for å hente ut beskyttet resonnering. En bredere undersøkelse fant lignende promptmønstre blant over 15 000 brukere, og OpenAI sier at selskapet hadde stanset den aktuelle aktiviteten innen 28. juli.

En av metodene skal ha vært å kopiere kryptert resonnering fra én samtale og be en modell i en annen samtale om å dekryptere og skrive den ut. OpenAI understreker at tallene gjelder forsøk, ikke nødvendigvis vellykkede uttrekk. Anklagen betyr altså ikke i seg selv at aktørene fikk tilgang til interne databaser eller hentet ut all informasjonen de var ute etter.

Bredere anklager fra amerikanske myndigheter og Anthropic

I september advarte NSA, CISA og FBI om det de beskrev som industriskala, uautorisert modell-destillering rettet mot amerikanske KI-modeller. Rådet navngir Moonshot blant seks kinesiske selskaper og beskriver samlet aktivitet på milliarder av token gjennom millioner av forespørsler, pågått siden minst slutten av 2024. Dette er samletall for de navngitte selskapene, ikke tall som gjelder Moonshot alene. Myndighetene sier at forespørsler ble sendt gjennom flere tilgangsveier, blant annet API-er, skytjenester og tredjepartsformidlere som kan skjule metadata.

Anthropic har på sin side anklaget Moonshot for å ha videresendt forespørsler fra Kimi-brukere til Claude uten å opplyse brukerne om det, og deretter presentert svarene som sine egne. Anthropic sier at Moonshot i ett tilfelle videresendte nær 300 000 kundeforespørsler i løpet av ti dager, hovedsakelig til Opus-modellen. Dette er Anthropics påstand; den dokumenterer ikke at alle Moonshots forespørsler ble rutet slik.

Kimi K3 i Codex – en separat utvikling

Samtidig ble Moonshots Kimi K3 tilgjengelig for bedriftsbrukere gjennom OpenAIs kodeverktøy Codex, via den amerikanske KI-infrastrukturleverandøren Baseten. Bruken kan belastes virksomhetens eksisterende OpenAI-avtale, uten at kunden må inngå en egen leverandøravtale. Dette ble omtalt som første gang en kinesisk åpen modell kom inn i denne delen av OpenAIs bedriftsbaserte kjøps- og betalingskanal. 31

Det kan virke påfallende at Kimi K3 får plass i en OpenAI-kanal samtidig som OpenAI anklager personer knyttet til Moonshot for uttrekkingsforsøk. Men kildene gir ikke grunnlag for å si at Codex-ordningen ble brukt til, eller bidro til, den påståtte kampanjen. 3

Hvilke sikkerhetstiltak anbefalte myndighetene?

Det felles rådet fra NSA, CISA og FBI oppfordrer amerikanske KI-selskaper til å styrke oppdagelse og begrensning av industriskala, uautorisert destillering. Det peker særlig på at forespørsler kan komme via ulike kanaler, også skytjenester og aggregatorer som skjuler hvem som står bak. Det tilgjengelige kildegrunnlaget beskriver den overordnede anbefalingen, men gir ikke nok detaljer til å gjengi en fullstendig sjekkliste over konkrete tiltak.