AnswersPublished17 sources
Jak „przemycanie” danych przez kompresję rozmów ujawniło ukryte rozumowanie OpenAI
Według Xint technika nazwana „compaction smuggling” pozwalała umieścić ukryte rozumowanie modelu w elemencie kompresji rozmowy, a następnie odczytać je za pośrednictwem innego modelu. Problem dotyczył ochrony danych podczas przetwarzania ich przez różne funkcje API — dostępne informacje nie wskazują, by złamano samo...
Opublikowane przezEdytowane za pomocą GPT-6 LunaObrazy wygenerowane za pomocą GPT Image 2
Research answer
Key takeaways
- Według Xint technika nazwana „compaction smuggling” pozwalała umieścić ukryte rozumowanie modelu w elemencie kompresji rozmowy, a następnie odczytać je za pośrednictwem innego modelu.
- Problem dotyczył ochrony danych podczas przetwarzania ich przez różne funkcje API — dostępne informacje nie wskazują, by złamano samo szyfrowanie.
- OpenAI potwierdziło błąd i wdrożyło nieujawnioną poprawkę 23 października 2026 r.; szczegóły techniczne naprawy nie są publicznie znane.
AI Prompt
openai.comCreate a landscape editorial hero image for this Studio Global article: How did security firm Xint’s three-call “compaction smuggling” attack extract hidden reasoning from OpenAI’s gpt-5.6-sol as plain text—by re. Article summary: Xint reported that “compaction smuggling” turned OpenAI’s conversation-compaction feature into a route for exposing hidden reasoning as plain text, and Tim Becker claimed it bypassed all mitigations on the frontier model. Topic tags: general, general web, user generated, government. Style: premium digital editorial illustration, source-backed research mood, clean composition, high detail, modern web publication hero. Use reference image context only for broad subject, composition, and topical grounding; do not copy the exact image. Avoid: logos, brand marks, copyrighted characters, real person likenesses, fake screenshots, UI text, readable text, watermarks, ch
Badacze z firmy Xint opisali lukę w funkcji OpenAI, która skraca długie rozmowy, by łatwiej przetwarzać ich dalszy ciąg. Według firmy technika nazwana compaction smuggling pozwalała przenieść ukryte rozumowanie modelu do elementu kompresji, a potem odczytać je jako zwykły tekst za pośrednictwem innego modelu. OpenAI potwierdziło problem i — jak podały Xint oraz serwisy informacyjne — naprawiło go 23 października 2026 r. 2
5
Na czym polegało „przemycanie” przez kompresję
Kompresja, czyli skrócenie długiej rozmowy do mniejszej reprezentacji, pomaga obsługiwać rozbudowany kontekst. Z opisu Xint wynika, że badacze nakłonili ten proces do umieszczenia ukrytego rozumowania w elemencie kompresji, który następnie mógł odczytać starszy model. 5
43
To ważne rozróżnienie: problem nie polegał na tym, że użytkownik zobaczył rozumowanie w zwykłej odpowiedzi modelu. Według opisu „The Hacker News” takie dane są normalnie zwracane jako zaszyfrowany element, którego użytkownik nie może odczytać. Zgłoszona luka dotyczyła tego, co działo się z nimi na kolejnym etapie przetwarzania przez API. Dostępne informacje wskazują więc na problem z ochroną danych między funkcjami, a nie na złamanie samego szyfrowania. 2
Część wtórnych doniesień wskazuje, że technikę testowano na modelu gpt-5.6-sol, a zawartość elementu kompresji odtwarzano przy użyciu gpt-4.1 i gpt-4o. 33
34 Publicznie dostępne materiały nie potwierdzają jednak wszystkich szczegółów tego przebiegu, takich jak dokładne formatowanie danych czy sposób omijania klasyfikatorów. Warto więc traktować te elementy ostrożnie.
Dlaczego ślady rozumowania mogą być cenne
Xint ocenił, że luka mogła umożliwić masowe destylowanie zaawansowanych modeli. 5 Destylacja polega na wykorzystywaniu odpowiedzi mocniejszego modelu jako materiału do trenowania mniejszego. Ślady rozumowania mogą potencjalnie dostarczać bogatszych przykładów niż same końcowe odpowiedzi, bo zawierają informacje o drodze prowadzącej do rozwiązania.
To opis możliwego zastosowania ujawnionych danych, a nie dowód, że ktoś wykorzystał tę lukę do trenowania konkurencyjnego modelu. Xint przedstawił ją jako zagrożenie dla ochrony zaawansowanych modeli, nie jako potwierdzenie, że doszło do takiego użycia. 5
Co wiadomo o poprawce, a czego nie ujawniono
Xint poinformował, że OpenAI potwierdziło problem i wdrożyło nieujawnioną poprawkę 23 października — trzy dni przed publikacją opisu badaczy, datowaną na 26 października 2026 r. 5 „The Hacker News” również podał, że firma potwierdziła błąd i go naprawiła.
2 Jeden z wtórnych raportów informuje o nagrodzie za zgłoszenie w wysokości 6 tys. dolarów.
50
Nie wiadomo jednak, jak dokładnie zmieniono obsługę elementów kompresji w API. Dostępne doniesienia nie pozwalają też niezależnie zweryfikować wszystkich szczegółów techniki ani twierdzeń dotyczących testów w różnych ustawieniach modelu. To istotne ograniczenie: opisane ustalenia wskazują na konkretną zgłoszoną drogę ujawnienia danych, ale nie dowodzą, że w ten sam sposób działały wszystkie modele i funkcje OpenAI.
Lekcja dla bezpieczeństwa systemów AI
Ten przypadek pokazuje, że ochrona danych na jednym etapie API może nie wystarczyć, jeśli inna funkcja potrafi je przetworzyć lub przekazać dalej. Xint podał, że jego technika ominęła zabezpieczenia wprowadzone przez OpenAI po wcześniejszych badaniach nad kradzieżą śladów rozumowania. 5 CSO Online zwrócił uwagę na szerszą lekcję: po wdrożeniu poprawki trzeba ponownie testować system, bo naprawa nie zawsze rozwiązuje cały problem.
3
Pytanie nie brzmi więc wyłącznie: czy użytkownik może bezpośrednio poprosić model o ujawnienie ukrytego rozumowania? Trzeba też sprawdzić, czy dane pozostają chronione podczas działania takich funkcji jak kompresja konwersacji oraz przy przekazywaniu ich między modelami. Publiczne informacje potwierdzają zgłoszenie luki i wdrożenie poprawki, ale nie odsłaniają ważnych szczegółów technicznych.
Studio Global AI
Continue your research
This page includes a source-backed answer you can continue inside Studio Global.
People also ask
What is the short answer to "Jak „przemycanie” danych przez kompresję rozmów ujawniło ukryte rozumowanie OpenAI"?
Według Xint technika nazwana „compaction smuggling” pozwalała umieścić ukryte rozumowanie modelu w elemencie kompresji rozmowy, a następnie odczytać je za pośrednictwem innego modelu.
What are the key points to validate first?
Według Xint technika nazwana „compaction smuggling” pozwalała umieścić ukryte rozumowanie modelu w elemencie kompresji rozmowy, a następnie odczytać je za pośrednictwem innego modelu. Problem dotyczył ochrony danych podczas przetwarzania ich przez różne funkcje API — dostępne informacje nie wskazują, by złamano samo szyfrowanie.
What should I do next in practice?
OpenAI potwierdziło błąd i wdrożyło nieujawnioną poprawkę 23 października 2026 r.; szczegóły techniczne naprawy nie są publicznie znane.
Sources
thehackernews.comOpenAI Compaction Flaw Let Researchers Bypass Hidden Reasoning Protections
xint.ioStealing OpenAI Reasoning Traces via Compaction ...
github.comGitHub - theori-io/ghost-compact: OpenAI compaction research: GhostCompact + Compaction Smuggling