RespostasPublicado17 fontes
Como a “compactação sorrateira” expôs o raciocínio oculto de modelos da OpenAI
A Xint relatou que a técnica chamada “compaction smuggling” permitia inserir raciocínio oculto em um item de compactação e pedir a outro modelo que o reproduzisse. O caso aponta para um risco no tratamento de dados protegidos entre recursos da API — não para uma quebra comprovada da criptografia.
Publicado porEditado com GPT-6 LunaImagens geradas com GPT Image 2
Resposta de pesquisa
Principais conclusões
- A Xint relatou que a técnica chamada “compaction smuggling” permitia inserir raciocínio oculto em um item de compactação e pedir a outro modelo que o reproduzisse.
- O caso aponta para um risco no tratamento de dados protegidos entre recursos da API — não para uma quebra comprovada da criptografia.
Prompt de IA
openai.comCreate a landscape editorial hero image for this Studio Global article: How did security firm Xint’s three-call “compaction smuggling” attack extract hidden reasoning from OpenAI’s gpt-5.6-sol as plain text—by re. Article summary: Xint reported that “compaction smuggling” turned OpenAI’s conversation-compaction feature into a route for exposing hidden reasoning as plain text, and Tim Becker claimed it bypassed all mitigations on the frontier model. Topic tags: general, general web, user generated, government. Style: premium digital editorial illustration, source-backed research mood, clean composition, high detail, modern web publication hero. Use reference image context only for broad subject, composition, and topical grounding; do not copy the exact image. Avoid: logos, brand marks, copyrighted characters, real person likenesses, fake screenshots, UI text, readable text, watermarks, ch
A empresa de segurança Xint relatou uma falha no fluxo de compactação de conversas da OpenAI que permitia expor, como texto legível, o raciocínio oculto de um modelo. Batizada de compaction smuggling — algo como “contrabando por compactação” —, a técnica usava um item de compactação para transportar o conteúdo até outro modelo, que poderia reproduzi-lo. Segundo a divulgação da empresa e notícias sobre o caso, a OpenAI corrigiu o problema em 23 de outubro de 2026. 2
5
Como a técnica funcionava
A compactação resume uma conversa longa em uma representação menor. Segundo o relato da Xint, os pesquisadores direcionaram esse processo para copiar o raciocínio oculto para um item de compactação e, em seguida, repassaram o item a um modelo anterior, que conseguiu transcrever seu conteúdo. 5
43
O ponto importante é que, segundo a cobertura do caso, o raciocínio não ficava visível em uma resposta comum do modelo. Em geral, ele era devolvido em um item criptografado, ilegível para o usuário; a falha relatada aproveitava outra etapa do processamento da API para tornar o conteúdo legível. 2 Assim, a preocupação é com a forma como dados protegidos eram tratados entre recursos — não há demonstração de que a criptografia em si tenha sido quebrada.
Algumas notícias secundárias identificam o gpt-5.6-sol como o modelo cujo raciocínio foi extraído e afirmam que a saída da compactação foi reproduzida pelo gpt-4.1 e pelo gpt-4o. 33
34 Os trechos de fontes disponíveis não comprovam todos os detalhes da sequência de três chamadas mencionada em alguns relatos, incluindo a formatação exata ou a forma de contornar classificadores. Esses pontos devem ser tratados com cautela.
Por que a exposição do raciocínio pode importar
A Xint afirmou que a vulnerabilidade poderia permitir a destilação em larga escala de modelos avançados. 5 Na destilação, respostas de um modelo mais potente podem ser usadas como material de treinamento para um modelo menor. Registros de raciocínio poderiam oferecer mais informações sobre como o modelo chegou a uma resposta do que a resposta final, tornando-se alvos potencialmente valiosos para treinamento.
Isso descreve um possível uso dos dados expostos. As reportagens não demonstram que alguém tenha usado a falha para treinar um modelo concorrente.
O que se sabe sobre a correção — e o que segue sem resposta
A Xint disse que a OpenAI confirmou o problema e implementou uma correção, cujos detalhes não foram divulgados, em 23 de outubro — antes de a empresa publicar seu relato, em 26 de outubro. 5 O The Hacker News também informou que a OpenAI confirmou e corrigiu a falha.
2 Uma reportagem secundária informou que a recompensa por denúncia foi de US$ 6 mil.
50
As informações disponíveis não detalham a correção o suficiente para avaliar como ela alterou o tratamento dos itens de compactação pela API. Também não comprovam o formato exato do ataque nem verificam alegações sobre testes em todos os níveis de esforço de raciocínio. Essa falta de detalhes é relevante: o caso sustenta uma preocupação sobre a rota relatada, mas não permite concluir que todos os modelos ou fluxos de trabalho da OpenAI tenham sido afetados da mesma maneira.
A lição de segurança: testar o fluxo inteiro
O episódio mostra por que proteger uma saída em um ponto da API pode não ser suficiente se outro recurso puder processá-la ou transferi-la. A Xint afirmou que a técnica contornou medidas de proteção introduzidas pela OpenAI após pesquisas anteriores sobre o roubo de registros de raciocínio. 5 O CSO Online destacou uma lição mais ampla: correções de falhas envolvendo modelos precisam ser testadas novamente, pois podem não resolver o problema por completo.
3
Para quem desenvolve serviços de IA, a questão não é apenas se um usuário consegue pedir diretamente o raciocínio oculto. Também é preciso saber se esses dados continuam protegidos ao passar por recursos como a compactação e ao serem transferidos entre modelos. As informações públicas confirmam a falha relatada e uma correção da empresa, mas não revelam detalhes importantes da implementação.
Studio Global AI
Continue sua pesquisa
Esta página inclui uma resposta baseada na fonte que você pode continuar em Studio Global.
As pessoas também perguntam
Qual é a resposta curta para "Como a “compactação sorrateira” expôs o raciocínio oculto de modelos da OpenAI"?
A Xint relatou que a técnica chamada “compaction smuggling” permitia inserir raciocínio oculto em um item de compactação e pedir a outro modelo que o reproduzisse.
Quais são os pontos-chave para validar primeiro?
A Xint relatou que a técnica chamada “compaction smuggling” permitia inserir raciocínio oculto em um item de compactação e pedir a outro modelo que o reproduzisse. O caso aponta para um risco no tratamento de dados protegidos entre recursos da API — não para uma quebra comprovada da criptografia.
Fontes
thehackernews.comOpenAI Compaction Flaw Let Researchers Bypass Hidden Reasoning Protections
xint.ioStealing OpenAI Reasoning Traces via Compaction ...
github.comGitHub - theori-io/ghost-compact: OpenAI compaction research: GhostCompact + Compaction Smuggling