ОтветыОпубликовано17 источники
«Скрытый» ход через сжатие: как исследователи извлекли рассуждения модели OpenAI
Xint сообщила, что с помощью compaction smuggling исследователи могли поместить скрытые рассуждения модели OpenAI в элемент сжатия диалога, а затем получить их текстовую расшифровку от другой модели. Инцидент указывает на риск при передаче защищённых данных между функциями API — это не свидетельство того, что шифров...
ОпубликовалОтредактировано с помощью GPT-6 LunaИзображения созданы с помощью GPT Image 2
Ответ на исследование
Ключевые выводы
- Xint сообщила, что с помощью compaction smuggling исследователи могли поместить скрытые рассуждения модели OpenAI в элемент сжатия диалога, а затем получить их текстовую расшифровку от другой модели.
- Инцидент указывает на риск при передаче защищённых данных между функциями API — это не свидетельство того, что шифрование само по себе было взломано.
Промпт ИИ
openai.comCreate a landscape editorial hero image for this Studio Global article: How did security firm Xint’s three-call “compaction smuggling” attack extract hidden reasoning from OpenAI’s gpt-5.6-sol as plain text—by re. Article summary: Xint reported that “compaction smuggling” turned OpenAI’s conversation-compaction feature into a route for exposing hidden reasoning as plain text, and Tim Becker claimed it bypassed all mitigations on the frontier model. Topic tags: general, general web, user generated, government. Style: premium digital editorial illustration, source-backed research mood, clean composition, high detail, modern web publication hero. Use reference image context only for broad subject, composition, and topical grounding; do not copy the exact image. Avoid: logos, brand marks, copyrighted characters, real person likenesses, fake screenshots, UI text, readable text, watermarks, ch
Исследователи компании Xint сообщили об уязвимости в механизме сжатия диалогов OpenAI: она позволяла передать скрытые рассуждения модели через специальный элемент сжатия и получить их в виде читаемого текста. Метод получил название compaction smuggling. По данным Xint и публикаций СМИ, OpenAI исправила проблему 23 октября 2026 года. 2
5
Как работал compaction smuggling
Сжатие диалога помогает сократить длинную переписку до более компактного представления. Согласно описанию Xint, исследователи направили этот процесс так, чтобы скрытые рассуждения попали в элемент сжатия. Затем его передали другой, более старой модели, которая смогла воспроизвести содержимое текстом. 5
43
Суть проблемы не в том, что обычный ответ модели внезапно показал пользователю её внутренние рассуждения. Как сообщает The Hacker News, такие данные обычно передаются в зашифрованном виде, недоступном для чтения пользователем; уязвимость использовала другой этап обработки через API, чтобы сделать содержимое читаемым. 2 Иными словами, речь идёт о защите данных при переходе между функциями, а не о доказанном взломе самого шифрования.
В некоторых публикациях уточняется, что исследователи извлекли рассуждения модели gpt-5.6-sol, а результат проходил через gpt-4.1 и gpt-4o. 33
34 Однако доступные выдержки из источников не подтверждают все подробности описанной последовательности вызовов, включая точный формат данных и способы обхода классификаторов. К этим деталям стоит относиться осторожно.
Почему утечка рассуждений имеет значение
Xint заявила, что уязвимость могла открыть возможность для масштабной дистилляции передовых моделей. 5 Дистилляцией называют обучение более компактной модели на примерах, полученных от более мощной. Текст рассуждений потенциально даёт больше информации о том, как модель пришла к ответу, чем один только итоговый ответ, и поэтому может быть ценным материалом для обучения.
Это возможное применение раскрытых данных, а не подтверждение того, что кто-либо воспользовался уязвимостью для обучения конкурирующей модели.
Что известно об исправлении
Xint сообщила, что OpenAI подтвердила проблему и выпустила нераскрытое исправление 23 октября — за три дня до публикации отчёта исследователей, вышедшего 26 октября. 5 The Hacker News также пишет, что компания подтвердила уязвимость и исправила её.
2 Вторичный источник указывает, что вознаграждение за обнаружение составило 6 000 долларов.
50
Публичные материалы не объясняют, что именно изменилось в обработке элементов сжатия через API. Также они не позволяют подтвердить все подробности форматирования атаки или заявления о проверке на каждом уровне интенсивности рассуждений. Поэтому выводы относятся к описанному способу утечки и не означают, что все модели или сценарии работы OpenAI были уязвимы одинаково.
Главный урок: проверять нужно всю цепочку обработки
Инцидент показывает, что защиты данных на одном этапе API может быть недостаточно, если другая функция способна их обработать или передать дальше. По словам Xint, новый метод обошёл меры, которые OpenAI ввела после более раннего исследования кражи следов рассуждений. 5 Издание CSO Online подчёркивает более общий вывод: исправления проблем с моделями необходимо перепроверять — патч не всегда устраняет риск полностью.
3
Поставщикам ИИ важно проверять не только возможность напрямую запросить скрытые рассуждения. Не менее важно понять, остаются ли они защищёнными при передаче между функциями — например, при сжатии контекста — и между моделями. Публичные сведения подтверждают описанную уязвимость и факт исправления, но подробности реализации остаются неизвестными.
Studio Global AI
Продолжайте свое исследование
На этой странице есть ответ, подтвержденный источником, который вы можете продолжить внутри Studio Global.
Люди также спрашивают
Каков краткий ответ на вопрос ««Скрытый» ход через сжатие: как исследователи извлекли рассуждения модели OpenAI»?
Xint сообщила, что с помощью compaction smuggling исследователи могли поместить скрытые рассуждения модели OpenAI в элемент сжатия диалога, а затем получить их текстовую расшифровку от другой модели.
Какие ключевые моменты необходимо проверить в первую очередь?
Xint сообщила, что с помощью compaction smuggling исследователи могли поместить скрытые рассуждения модели OpenAI в элемент сжатия диалога, а затем получить их текстовую расшифровку от другой модели. Инцидент указывает на риск при передаче защищённых данных между функциями API — это не свидетельство того, что шифрование само по себе было взломано.
Источники
thehackernews.comOpenAI Compaction Flaw Let Researchers Bypass Hidden Reasoning Protections
xint.ioStealing OpenAI Reasoning Traces via Compaction ...
github.comGitHub - theori-io/ghost-compact: OpenAI compaction research: GhostCompact + Compaction Smuggling