AnswersPublished17 sources
En brist i OpenAI:s komprimering kunde visa modellens dolda resonemang
Xint rapporterade att så kallad compaction smuggling kunde föra dolda resonemang via en komprimeringspost till en annan modell, som sedan kunde återge innehållet. Bristen handlade om hur skyddat innehåll hanterades mellan API funktioner – inte om att krypteringen i sig knäcktes.
Publicerad avRedigerad med GPT-6 LunaBilder genererade med GPT Image 2
Research answer
Key takeaways
- Xint rapporterade att så kallad compaction smuggling kunde föra dolda resonemang via en komprimeringspost till en annan modell, som sedan kunde återge innehållet.
- Bristen handlade om hur skyddat innehåll hanterades mellan API funktioner – inte om att krypteringen i sig knäcktes.
AI Prompt
openai.comCreate a landscape editorial hero image for this Studio Global article: How did security firm Xint’s three-call “compaction smuggling” attack extract hidden reasoning from OpenAI’s gpt-5.6-sol as plain text—by re. Article summary: Xint reported that “compaction smuggling” turned OpenAI’s conversation-compaction feature into a route for exposing hidden reasoning as plain text, and Tim Becker claimed it bypassed all mitigations on the frontier model. Topic tags: general, general web, user generated, government. Style: premium digital editorial illustration, source-backed research mood, clean composition, high detail, modern web publication hero. Use reference image context only for broad subject, composition, and topical grounding; do not copy the exact image. Avoid: logos, brand marks, copyrighted characters, real person likenesses, fake screenshots, UI text, readable text, watermarks, ch
Xint rapporterade att en brist i OpenAI:s funktion för att komprimera långa konversationer kunde göra en modells dolda resonemang läsbart. Metoden, som företaget kallar compaction smuggling, gick enligt rapporten ut på att föra resonemanget till en komprimeringspost och låta en annan modell återge innehållet. OpenAI bekräftade problemet och uppges ha åtgärdat det den 23 oktober 2026. 2
5
Så fungerade metoden
Konversationskomprimering gör en lång chatt kortare genom att sammanfatta eller omforma dess innehåll. Xints rapport beskriver hur den processen kunde styras så att modellens dolda resonemang kopierades till en komprimeringspost. En äldre modell kunde därefter läsa posten och återge innehållet. 5
43
Det centrala är att resonemanget inte bara visades i ett vanligt svar från modellen. Enligt rapporteringen skickas sådant innehåll normalt som en krypterad post som användaren inte kan läsa. Den rapporterade bristen utnyttjade i stället ett senare steg i API-hanteringen för att göra innehållet läsbart. Det innebär inte att krypteringen i sig knäcktes – problemet gällde hur skyddet fungerade när data hanterades mellan olika funktioner. 2
Viss sekundärrapportering pekar ut gpt-5.6-sol som modellen vars resonemang extraherades och uppger att komprimeringsresultatet återgavs via gpt-4.1 och gpt-4o. 33
34 De tillgängliga källutdragen styrker däremot inte alla detaljer om den påstådda sekvensen, exempelvis exakt formatering eller hur metoden skulle ha kringgått klassificering. Sådana uppgifter bör därför behandlas med försiktighet.
Varför resonemang kan vara värdefullt
Xint uppgav att sårbarheten skulle kunna möjliggöra storskalig destillering av avancerade modeller. 5 Destillering innebär att svar från en starkare modell används som träningsmaterial för en mindre. Resonemangsspår kan i vissa fall ge mer information om hur modellen kom fram till ett svar än själva svaret gör, och därmed vara attraktiva som träningsunderlag.
Det beskriver en möjlig användning av det exponerade innehållet. Rapporteringen visar inte att någon faktiskt använde bristen för att träna en konkurrerande modell.
Vad som är känt om åtgärden – och vad som saknas
Xint uppgav att OpenAI bekräftade problemet och införde en åtgärd som inte offentliggjorts den 23 oktober, innan Xint publicerade sin rapport den 26 oktober. 5 Även The Hacker News rapporterade att OpenAI bekräftade och åtgärdade bristen.
2 En sekundär källa uppger att bug bounty-ersättningen var 6 000 dollar.
50
Det offentliga materialet beskriver inte åtgärden tillräckligt detaljerat för att visa hur API:ts hantering av komprimeringsposter förändrades. Det fastställer inte heller exakt hur attacken formaterades eller bekräftar att testerna omfattade alla nivåer av resonemang. Det är viktiga begränsningar: rapporteringen pekar på en specifik väg för exponering, men visar inte att alla OpenAI-modeller eller arbetsflöden påverkades på samma sätt.
Säkerhetslärdomen: testa hela kedjan igen
Händelsen visar varför det inte alltid räcker att skydda känsligt innehåll i ett enskilt steg av ett API-flöde. Om en annan funktion kan bearbeta eller föra vidare samma data måste skyddet hålla även där. Xint uppgav att metoden rundade skydd som OpenAI infört efter tidigare forskning om stöld av resonemangsspår. 5 CSO Online lyfte fram den bredare lärdomen: en åtgärd behöver testas på nytt, eftersom den inte nödvändigtvis löser hela problemet.
3
För AI-leverantörer handlar frågan alltså inte bara om huruvida en användare kan be modellen att visa sitt dolda resonemang. Det gäller också om informationen förblir skyddad när den passerar funktioner som komprimering eller flyttas mellan modeller. De offentliga uppgifterna bekräftar den rapporterade bristen och att leverantören har åtgärdat den, men lämnar viktiga tekniska detaljer obesvarade.
Studio Global AI
Continue your research
This page includes a source-backed answer you can continue inside Studio Global.
People also ask
What is the short answer to "En brist i OpenAI:s komprimering kunde visa modellens dolda resonemang"?
Xint rapporterade att så kallad compaction smuggling kunde föra dolda resonemang via en komprimeringspost till en annan modell, som sedan kunde återge innehållet.
What are the key points to validate first?
Xint rapporterade att så kallad compaction smuggling kunde föra dolda resonemang via en komprimeringspost till en annan modell, som sedan kunde återge innehållet. Bristen handlade om hur skyddat innehåll hanterades mellan API funktioner – inte om att krypteringen i sig knäcktes.
Sources
thehackernews.comOpenAI Compaction Flaw Let Researchers Bypass Hidden Reasoning Protections
xint.ioStealing OpenAI Reasoning Traces via Compaction ...
github.comGitHub - theori-io/ghost-compact: OpenAI compaction research: GhostCompact + Compaction Smuggling