AnswersPublished17 sources
Jak „pašování“ přes kompakci obešlo ochranu uvažování modelu OpenAI
Xint uvedla, že skryté uvažování modelu OpenAI bylo možné vložit do položky vzniklé při kompakci konverzace a nechat jiný model jeho obsah přepsat. Jádrem problému bylo zacházení s chráněnými daty při zpracování napříč funkcemi API; dostupné informace nedokládají prolomení samotného šifrování.
PublikovalUpraveno pomocí GPT-6 LunaObrázky vytvořeny pomocí GPT Image 2
Research answer
Key takeaways
- Xint uvedla, že skryté uvažování modelu OpenAI bylo možné vložit do položky vzniklé při kompakci konverzace a nechat jiný model jeho obsah přepsat.
- Jádrem problému bylo zacházení s chráněnými daty při zpracování napříč funkcemi API; dostupné informace nedokládají prolomení samotného šifrování.
AI Prompt
openai.comCreate a landscape editorial hero image for this Studio Global article: How did security firm Xint’s three-call “compaction smuggling” attack extract hidden reasoning from OpenAI’s gpt-5.6-sol as plain text—by re. Article summary: Xint reported that “compaction smuggling” turned OpenAI’s conversation-compaction feature into a route for exposing hidden reasoning as plain text, and Tim Becker claimed it bypassed all mitigations on the frontier model. Topic tags: general, general web, user generated, government. Style: premium digital editorial illustration, source-backed research mood, clean composition, high detail, modern web publication hero. Use reference image context only for broad subject, composition, and topical grounding; do not copy the exact image. Avoid: logos, brand marks, copyrighted characters, real person likenesses, fake screenshots, UI text, readable text, watermarks, ch
Bezpečnostní firma Xint popsala chybu v procesu, který zkracuje dlouhé konverzace v API OpenAI. Technika nazvaná compaction smuggling podle výzkumníků umožnila vložit skryté uvažování modelu do položky vytvořené při kompakci a následně ho nechat jiným modelem převést do čitelného textu. OpenAI podle zveřejněných informací problém potvrdilo a 23. října 2026 opravilo. 2
5
Jak mělo „pašování“ přes kompakci fungovat
Kompakce převádí dlouhou konverzaci do kratší podoby, aby se s ní systém mohl dál pracovat. Xint popisuje postup, při němž se proces nasměruje tak, aby skryté uvažování zkopíroval do položky kompakce. Tu pak mohl přečíst starší model a její obsah vypsat. 5
43
Podle zpráv se skryté uvažování běžně vrací jako zašifrovaná položka, kterou uživatel nemůže přečíst. Popsaná chyba měla využít další fázi zpracování přes API, aby se obsah stal čitelným. 2 Nejde tedy o doložené prolomení šifrování, ale o problém s tím, jak se s chráněnými daty zacházelo při předávání mezi funkcemi.
Některé sekundární zprávy uvádějí, že technika byla použita na model gpt-5.6-sol a že výstup kompakce se následně nechal zopakovat přes gpt-4.1 a gpt-4o. 33
34 Veřejné podklady ale nepotvrzují všechny podrobnosti popisované tříkrokové sekvence, například přesné formátování nebo způsob obcházení klasifikátoru. Tyto detaily je proto namístě brát s rezervou.
Proč mohou být stopy uvažování cenné
Xint uvedla, že zranitelnost mohla umožnit rozsáhlou destilaci pokročilých modelů. 5 Při destilaci se výstupy silnějšího modelu používají jako tréninkový materiál pro menší model. Stopy uvažování by mohly nabídnout více informací o postupu k odpovědi než samotný výsledný text, a být tak užitečným tréninkovým cílem. To ale popisuje možné využití získaných dat — dostupné zprávy nedokládají, že někdo chybu skutečně použil k trénování konkurenčního modelu.
Co víme o opravě a co zůstává nejasné
Xint uvedla, že OpenAI chybu potvrdilo a nasadilo blíže nepopsanou opravu 23. října, tedy ještě před zveřejněním zprávy firmy 26. října. 5 Také The Hacker News informoval, že OpenAI problém potvrdilo a opravilo.
2 Podle jedné sekundární zprávy činila odměna za nahlášení chyby 6 000 dolarů.
50
Veřejné informace nepopisují opravu natolik podrobně, aby bylo možné posoudit, jak změnila zpracování položek kompakce v API. Z dostupných zdrojů také nelze potvrdit přesnou podobu útoku ani tvrzení o testování napříč všemi úrovněmi intenzity uvažování. Zjištění proto podporuje obavy z popsané cesty k úniku, nikoli závěr, že stejným způsobem byly zasaženy všechny modely nebo pracovní postupy OpenAI.
Bezpečnostní poučení: testovat celý proces
Případ ukazuje, že nestačí chránit citlivý výstup pouze na jednom místě API, pokud s ním může dál pracovat jiná funkce nebo model. Xint uvedla, že její postup obešel opatření, která OpenAI zavedlo po dřívějším výzkumu krádeže stop uvažování. 5 CSO Online zdůraznilo obecnější poučení: opravu je třeba znovu testovat, protože nemusí problém související s modelem vyřešit úplně.
3
Pro poskytovatele AI tak není důležitá jen otázka, zda uživatel dokáže skryté uvažování vyžádat přímo. Záleží také na tom, zda zůstane chráněné při průchodu funkcemi, jako je kompakce, a při předávání mezi modely. Veřejné informace potvrzují popsanou chybu a opravu ze strany poskytovatele, řadu technických podrobností však nechávají nezveřejněnou.
Studio Global AI
Continue your research
This page includes a source-backed answer you can continue inside Studio Global.
People also ask
What is the short answer to "Jak „pašování“ přes kompakci obešlo ochranu uvažování modelu OpenAI"?
Xint uvedla, že skryté uvažování modelu OpenAI bylo možné vložit do položky vzniklé při kompakci konverzace a nechat jiný model jeho obsah přepsat.
What are the key points to validate first?
Xint uvedla, že skryté uvažování modelu OpenAI bylo možné vložit do položky vzniklé při kompakci konverzace a nechat jiný model jeho obsah přepsat. Jádrem problému bylo zacházení s chráněnými daty při zpracování napříč funkcemi API; dostupné informace nedokládají prolomení samotného šifrování.
Sources
thehackernews.comOpenAI Compaction Flaw Let Researchers Bypass Hidden Reasoning Protections
xint.ioStealing OpenAI Reasoning Traces via Compaction ...
github.comGitHub - theori-io/ghost-compact: OpenAI compaction research: GhostCompact + Compaction Smuggling