AnswersPublished17 sources
Keskustelun tiivistäminen saattoi paljastaa OpenAI-mallin piilotettua päättelyä
Xint kertoi compaction smuggling menetelmästä, jolla piilotettua päättelyä voitiin siirtää keskustelun tiivistelmään ja saada toinen malli kirjoittamaan se auki. Tapaus nostaa esiin sen, miten suojattua mallidataa käsitellään API:n eri ominaisuuksien välillä – ei sitä, että salaus olisi murrettu.
JulkaisijaMuokattu mallilla GPT-6 LunaKuvat luotu mallilla GPT Image 2
Research answer
Key takeaways
- Xint kertoi compaction smuggling menetelmästä, jolla piilotettua päättelyä voitiin siirtää keskustelun tiivistelmään ja saada toinen malli kirjoittamaan se auki.
- Tapaus nostaa esiin sen, miten suojattua mallidataa käsitellään API:n eri ominaisuuksien välillä – ei sitä, että salaus olisi murrettu.
AI Prompt
openai.comCreate a landscape editorial hero image for this Studio Global article: How did security firm Xint’s three-call “compaction smuggling” attack extract hidden reasoning from OpenAI’s gpt-5.6-sol as plain text—by re. Article summary: Xint reported that “compaction smuggling” turned OpenAI’s conversation-compaction feature into a route for exposing hidden reasoning as plain text, and Tim Becker claimed it bypassed all mitigations on the frontier model. Topic tags: general, general web, user generated, government. Style: premium digital editorial illustration, source-backed research mood, clean composition, high detail, modern web publication hero. Use reference image context only for broad subject, composition, and topical grounding; do not copy the exact image. Avoid: logos, brand marks, copyrighted characters, real person likenesses, fake screenshots, UI text, readable text, watermarks, ch
Xintin mukaan OpenAI API:n keskustelun tiivistämiseen liittynyt haavoittuvuus mahdollisti mallin piilotetun päättelyn saamisen luettavaan tekstimuotoon. Tutkijoiden compaction smuggling -nimellä kutsumassa menetelmässä päättelyä ohjattiin tiivistysvaiheen tuottamaan sisältöön, jonka toinen malli pystyi lukemaan ja kirjoittamaan auki. OpenAI korjasi ongelman 23. lokakuuta 2026, yhtiön ilmoituksen ja uutisraporttien mukaan. 2
5
Miten menetelmä toimi?
Keskustelun tiivistäminen eli compaction muuttaa pitkän keskustelun lyhyemmäksi esitykseksi. Xintin raportin mukaan tutkijat ohjasivat tätä käsittelyä niin, että mallin piilotettu päättely kopioitui tiivistelmään. Sen jälkeen sisältö annettiin vanhemmalle mallille, joka pystyi kirjoittamaan sen tekstinä esiin. 5
43
Kyse ei siis ollut siitä, että päättely olisi tullut suoraan näkyviin mallin tavallisessa vastauksessa. Uutisraportin mukaan päättelyaineisto palautetaan normaalisti salattuna kohteena, jota käyttäjä ei voi lukea. Raportoitu haavoittuvuus hyödynsi API:n myöhempää käsittelyvaihetta ja sai sisällön luettavaan muotoon. 2 Huolenaihe liittyi siten suojatun datan käsittelyyn eri toimintojen välillä – ei näyttöön siitä, että itse salaus olisi murrettu.
Osa toissijaisista uutisista kertoo, että menetelmää käytettiin gpt-5.6-sol-mallin päättelyn poimimiseen ja että tiivistelmän sisältö toistettiin gpt-4.1- ja gpt-4o-mallien kautta. 33
34 Käytettävissä olevat lähdeotteet eivät kuitenkaan vahvista kaikkia väitetyn kolmen API-kutsun yksityiskohtia, kuten tarkkaa muotoilua tai tapaa kiertää luokittelijoita. Näihin yksityiskohtiin kannattaa siksi suhtautua varauksella.
Miksi päättelyjäljet kiinnostavat?
Xint arvioi haavoittuvuuden voivan mahdollistaa kehittyneiden mallien laajamittaisen tislaamisen. 5 Tislaamisessa vahvemman mallin tuottamaa aineistoa käytetään pienemmän mallin kouluttamiseen. Päättelyjäljet voivat kertoa enemmän siitä, miten malli päätyi vastaukseensa kuin pelkkä lopputulos, joten ne voisivat olla arvokkaita koulutusmateriaaleja.
Kyse on kuitenkin mahdollisesta käyttötavasta. Julkiset raportit eivät osoita, että joku olisi hyödyntänyt tätä haavoittuvuutta kilpailevan mallin kouluttamiseen.
Korjaus julkaistiin, mutta yksityiskohtia ei kerrottu
Xint kertoo OpenAI:n vahvistaneen ongelman ja ottaneen käyttöön yksityiskohdiltaan julkistamattoman korjauksen 23. lokakuuta – ennen kuin Xint julkaisi raporttinsa 26. lokakuuta. 5 Myös The Hacker News kertoi OpenAI:n vahvistaneen ja korjanneen ongelman.
2 Yhden toissijaisen uutisraportin mukaan haavoittuvuuden ilmoittamisesta maksettiin 6 000 dollarin palkkio.
50
Julkisista tiedoista ei käy tarkasti ilmi, miten korjaus muutti tiivistyskohteiden käsittelyä API:ssa. Myöskään kaikkia hyökkäyksen muotoiluun tai sen testaamiseen eri päättelyasetuksilla liittyviä väitteitä ei ole vahvistettu. Tämän vuoksi havainto kertoo raportoidusta hyökkäystavasta, mutta sen perusteella ei voi päätellä, että kaikki OpenAI:n mallit tai toimintaketjut olisivat olleet samalla tavalla alttiita.
Tietoturvasta pitää huolehtia koko käsittelyketjussa
Tapaus havainnollistaa, miksi arkaluonteisen tuloksen suojaaminen yhdessä API:n vaiheessa ei välttämättä riitä, jos toinen toiminto voi käsitellä tai siirtää sitä edelleen. Xintin mukaan menetelmä kiersi suojauksia, jotka OpenAI oli ottanut käyttöön aiemman päättelyjälkien varastamista koskevan tutkimuksen jälkeen. 5 CSO Online nosti esiin laajemman op lesson: malliin liittyvä korjaus on syytä testata uudelleen, sillä yksittäinen korjaus ei välttämättä poista ongelmaa kokonaan.
3
Tekoälypalveluiden tietoturvassa olennaista ei siis ole vain se, voiko käyttäjä pyytää piilotettua päättelyä suoraan. On myös varmistettava, että tieto pysyy suojattuna, kun se kulkee esimerkiksi tiivistystoiminnon tai eri mallien välillä. Julkisten tietojen perusteella haavoittuvuus raportoitiin ja palveluntarjoaja korjasi sen, mutta toteutuksen tärkeitä yksityiskohtia ei ole kerrottu.
Studio Global AI
Continue your research
This page includes a source-backed answer you can continue inside Studio Global.
People also ask
What is the short answer to "Keskustelun tiivistäminen saattoi paljastaa OpenAI-mallin piilotettua päättelyä"?
Xint kertoi compaction smuggling menetelmästä, jolla piilotettua päättelyä voitiin siirtää keskustelun tiivistelmään ja saada toinen malli kirjoittamaan se auki.
What are the key points to validate first?
Xint kertoi compaction smuggling menetelmästä, jolla piilotettua päättelyä voitiin siirtää keskustelun tiivistelmään ja saada toinen malli kirjoittamaan se auki. Tapaus nostaa esiin sen, miten suojattua mallidataa käsitellään API:n eri ominaisuuksien välillä – ei sitä, että salaus olisi murrettu.
Sources
thehackernews.comOpenAI Compaction Flaw Let Researchers Bypass Hidden Reasoning Protections
xint.ioStealing OpenAI Reasoning Traces via Compaction ...
github.comGitHub - theori-io/ghost-compact: OpenAI compaction research: GhostCompact + Compaction Smuggling