AnswersPublished17 sources
OpenAI-feil lot forskere hente ut skjult resonnering
Xint rapporterte at «compaction smuggling» kunne føre skjult resonnering inn i et komprimeringselement som en annen modell kunne lese tilbake. Saken peker på en risiko i hvordan beskyttede data håndteres mellom API funksjoner – ikke på at krypteringen i seg selv ble brutt.
Publisert avRedigert med GPT-6 LunaBilder generert med GPT Image 2
Research answer
Key takeaways
- Xint rapporterte at «compaction smuggling» kunne føre skjult resonnering inn i et komprimeringselement som en annen modell kunne lese tilbake.
- Saken peker på en risiko i hvordan beskyttede data håndteres mellom API funksjoner – ikke på at krypteringen i seg selv ble brutt.
AI Prompt
openai.comCreate a landscape editorial hero image for this Studio Global article: How did security firm Xint’s three-call “compaction smuggling” attack extract hidden reasoning from OpenAI’s gpt-5.6-sol as plain text—by re. Article summary: Xint reported that “compaction smuggling” turned OpenAI’s conversation-compaction feature into a route for exposing hidden reasoning as plain text, and Tim Becker claimed it bypassed all mitigations on the frontier model. Topic tags: general, general web, user generated, government. Style: premium digital editorial illustration, source-backed research mood, clean composition, high detail, modern web publication hero. Use reference image context only for broad subject, composition, and topical grounding; do not copy the exact image. Avoid: logos, brand marks, copyrighted characters, real person likenesses, fake screenshots, UI text, readable text, watermarks, ch
Sikkerhetsfirmaet Xint rapporterte at en svakhet i OpenAIs funksjon for samtalekomprimering kunne gjøre skjult resonnering fra en modell lesbar som vanlig tekst. Metoden fikk navnet compaction smuggling: Resonneringen ble lagt inn i et element fra komprimeringsprosessen, som en annen modell deretter kunne lese tilbake. OpenAI bekreftet problemet og rettet det 23. oktober 2026, ifølge selskapets opplysninger gjengitt i medieomtalen. 2
5
Slik skal metoden ha fungert
Samtalekomprimering forkorter en lang samtale til en mindre representasjon. Ifølge Xints rapport kunne forskerne påvirke denne prosessen slik at skjult resonnering ble kopiert inn i et komprimeringselement. Deretter kunne en eldre modell lese innholdet og gjengi det. 5
43
Det betyr ikke at resonneringen ble synlig i et vanlig svar fra den opprinnelige modellen. Medieomtalen beskriver hvordan resonneringsdata normalt returneres som et kryptert element som brukeren ikke kan lese. Den rapporterte svakheten utnyttet i stedet et senere trinn i API-behandlingen. 2 Saken handler dermed om hvordan beskyttede data ble håndtert på tvers av funksjoner – ikke om at krypteringen i seg selv ble brutt.
Sekundær omtale peker på gpt-5.6-sol som modellen forskerne hentet resonnering fra, og sier at innholdet ble ført videre via gpt-4.1 og gpt-4o. 33
34 Kildene som er tilgjengelige, bekrefter imidlertid ikke alle detaljene i den beskrevne sekvensen. Den nøyaktige formateringen og hvordan eventuelle klassifikatorer ble omgått, bør derfor behandles med forbehold.
Hvorfor resonneringsdata kan være verdifulle
Xint sa at sårbarheten kunne åpne for storskala destillering av avanserte modeller. 5 Destillering innebærer at resultater fra en sterkere modell brukes som treningsmateriale for en mindre modell. Resonneringsspor kan gi mer informasjon om hvordan modellen kom fram til et svar enn svaret alene, og kan derfor være verdifulle som treningsdata.
Dette beskriver en mulig bruk av dataene. Rapporteringen dokumenterer ikke at noen faktisk brukte feilen til å trene en konkurrerende modell.
Hva vi vet om rettingen – og hva som fortsatt er uklart
Xint opplyste at OpenAI bekreftet problemet og satte inn en ikke nærmere beskrevet retting 23. oktober, før Xint publiserte rapporten 26. oktober. 5 The Hacker News meldte også at OpenAI bekreftet og rettet feilen.
2 En sekundærkilde oppgir at belønningen for feilrapporteringen var 6 000 dollar.
50
Den tilgjengelige omtalen forklarer ikke rettingen godt nok til at det er mulig å vurdere hvordan API-ets håndtering av komprimeringselementer ble endret. Den gir heller ikke grunnlag for å fastslå den nøyaktige angrepsformateringen eller bekrefte påstander om testing ved alle nivåer for resonneringsinnsats. Det begrenser hva funnet kan si: Det dokumenterer den rapporterte angrepsveien, men viser ikke at alle OpenAI-modeller eller arbeidsflyter var rammet på samme måte.
Sikkerhetslærdommen: test hele arbeidsflyten på nytt
Saken viser hvorfor det ikke alltid er nok å beskytte sensitivt innhold ved ett enkelt API-grensesnitt dersom en annen funksjon senere kan behandle eller flytte innholdet. Xint sa at metoden kom forbi tiltak OpenAI hadde innført etter tidligere forskning på tyveri av resonneringsspor. 5 CSO Online trakk fram en bredere lærdom: sikkerhetstiltak bør testes på nytt, fordi en retting ikke nødvendigvis løser hele problemet.
3
For leverandører av KI-tjenester handler spørsmålet ikke bare om brukere kan be direkte om skjult resonnering. Det handler også om hvorvidt dataene fortsatt er beskyttet når de behandles av funksjoner som komprimering eller sendes mellom modeller. Den offentlig tilgjengelige informasjonen bekrefter den rapporterte svakheten og at leverandøren rettet den, men lar viktige tekniske detaljer stå åpne.
Studio Global AI
Continue your research
This page includes a source-backed answer you can continue inside Studio Global.
People also ask
What is the short answer to "OpenAI-feil lot forskere hente ut skjult resonnering"?
Xint rapporterte at «compaction smuggling» kunne føre skjult resonnering inn i et komprimeringselement som en annen modell kunne lese tilbake.
What are the key points to validate first?
Xint rapporterte at «compaction smuggling» kunne føre skjult resonnering inn i et komprimeringselement som en annen modell kunne lese tilbake. Saken peker på en risiko i hvordan beskyttede data håndteres mellom API funksjoner – ikke på at krypteringen i seg selv ble brutt.
Sources
thehackernews.comOpenAI Compaction Flaw Let Researchers Bypass Hidden Reasoning Protections
xint.ioStealing OpenAI Reasoning Traces via Compaction ...
github.comGitHub - theori-io/ghost-compact: OpenAI compaction research: GhostCompact + Compaction Smuggling