RéponsesPublié17 sources
Comment la « compaction smuggling » a pu révéler le raisonnement caché d’un modèle OpenAI
Selon Xint, la « compaction smuggling » permettait de faire transiter des traces de raisonnement cachées dans un élément de compaction, puis de les faire retranscrire par un autre modèle. L’incident met en lumière les risques liés au traitement des données protégées entre différentes fonctions de l’API ; les informa...
Publié parModifié avec GPT-6 LunaImages générées avec GPT Image 2
Réponse de recherche
Points clés à retenir
- Selon Xint, la « compaction smuggling » permettait de faire transiter des traces de raisonnement cachées dans un élément de compaction, puis de les faire retranscrire par un autre modèle.
- L’incident met en lumière les risques liés au traitement des données protégées entre différentes fonctions de l’API ; les informations publiées ne montrent pas que le chiffrement lui même a été cassé.
Prompt IA
openai.comCreate a landscape editorial hero image for this Studio Global article: How did security firm Xint’s three-call “compaction smuggling” attack extract hidden reasoning from OpenAI’s gpt-5.6-sol as plain text—by re. Article summary: Xint reported that “compaction smuggling” turned OpenAI’s conversation-compaction feature into a route for exposing hidden reasoning as plain text, and Tim Becker claimed it bypassed all mitigations on the frontier model. Topic tags: general, general web, user generated, government. Style: premium digital editorial illustration, source-backed research mood, clean composition, high detail, modern web publication hero. Use reference image context only for broad subject, composition, and topical grounding; do not copy the exact image. Avoid: logos, brand marks, copyrighted characters, real person likenesses, fake screenshots, UI text, readable text, watermarks, ch
Xint affirme qu’une faille dans le mécanisme de compaction des conversations d’OpenAI permettait de rendre lisibles des traces de raisonnement normalement cachées. Baptisée « compaction smuggling », la technique aurait consisté à placer ces traces dans un élément de compaction, puis à demander à un autre modèle de les retranscrire. OpenAI a corrigé le problème le 23 octobre 2026, selon l’entreprise et plusieurs médias. 2
5
Comment fonctionnait la technique
La compaction réduit une longue conversation à une version plus courte. D’après le rapport de Xint, les chercheurs ont orienté ce processus pour copier le raisonnement interne dans un élément de compaction, avant de transmettre cet élément à un ancien modèle capable d’en restituer le contenu. 5
43
Le point important : il ne s’agissait pas simplement d’obtenir ces informations dans une réponse ordinaire du modèle. Selon les informations publiées, les traces de raisonnement sont normalement renvoyées sous la forme d’un élément chiffré que l’utilisateur ne peut pas lire ; la faille aurait exploité une autre étape du traitement de l’API pour en rendre le contenu lisible. 2 Le problème rapporté concerne donc la protection des données lorsqu’elles passent d’une fonction à une autre, et non une démonstration d’un déchiffrement.
Des articles secondaires désignent gpt-5.6-sol comme le modèle dont les traces auraient été extraites, puis mentionnent leur retranscription par gpt-4.1 et gpt-4o. 33
34 Les extraits de sources accessibles ne permettent pas de confirmer tous les détails de la séquence en trois appels, notamment le format exact utilisé ou la manière dont les chercheurs auraient contourné les filtres. Ces précisions restent donc à prendre avec prudence.
Pourquoi ces traces pourraient intéresser des développeurs de modèles
Xint estime que la faille aurait pu faciliter la distillation à grande échelle de modèles avancés. 5 Cette méthode consiste à utiliser les réponses d’un modèle puissant comme matériel d’entraînement pour en créer un plus petit. Les traces de raisonnement pourraient fournir davantage d’informations sur la façon dont le modèle parvient à une réponse que la réponse seule, et ainsi constituer des exemples d’entraînement utiles.
Il s’agit toutefois d’un risque potentiel lié aux données exposées : les informations publiées n’établissent pas que quelqu’un a effectivement utilisé cette faille pour entraîner un modèle concurrent.
Une faille corrigée, mais des détails encore absents
Xint indique qu’OpenAI a confirmé le problème et déployé une correction non détaillée le 23 octobre, avant la publication de son rapport, le 26 octobre. 5 The Hacker News rapporte également qu’OpenAI a confirmé et corrigé la faille.
2 Un article secondaire fait état d’une prime de 6 000 dollars.
50
Les informations disponibles ne précisent pas comment la correction a modifié le traitement des éléments de compaction par l’API. Elles ne permettent pas non plus de confirmer le format précis de l’attaque ni les affirmations concernant des essais à tous les niveaux d’effort de raisonnement. Il faut donc limiter la conclusion à la voie d’exposition décrite : rien ne permet d’affirmer que tous les modèles ou processus OpenAI étaient touchés de la même manière.
La leçon de sécurité : tester l’ensemble du parcours
Cet incident rappelle qu’une donnée sensible peut rester vulnérable même si elle est protégée à une étape donnée de l’API, dès lors qu’une autre fonction peut la traiter ou la transférer. Xint affirme que la technique contournait des mesures de protection mises en place par OpenAI après de précédentes recherches sur le vol de traces de raisonnement. 5 CSO Online souligne une leçon plus générale : une correction doit être retestée, car elle ne règle pas nécessairement entièrement un problème lié à un modèle.
3
Pour les fournisseurs d’IA, la question ne se limite donc pas à savoir si un utilisateur peut demander directement le raisonnement caché d’un modèle. Il faut aussi vérifier que ces données restent protégées lorsqu’elles passent par des fonctions comme la compaction ou d’un modèle à un autre. Les informations publiques confirment la faille rapportée et sa correction, mais laissent plusieurs détails techniques dans l’ombre.
Studio Global AI
Continuez vos recherches
Cette page comprend une réponse basée sur la source que vous pouvez continuer dans Studio Global.
Les gens demandent aussi
Quelle est la réponse courte à « Comment la « compaction smuggling » a pu révéler le raisonnement caché d’un modèle OpenAI » ?
Selon Xint, la « compaction smuggling » permettait de faire transiter des traces de raisonnement cachées dans un élément de compaction, puis de les faire retranscrire par un autre modèle.
Quels sont les points clés à valider en premier ?
Selon Xint, la « compaction smuggling » permettait de faire transiter des traces de raisonnement cachées dans un élément de compaction, puis de les faire retranscrire par un autre modèle. L’incident met en lumière les risques liés au traitement des données protégées entre différentes fonctions de l’API ; les informations publiées ne montrent pas que le chiffrement lui même a été cassé.
Sources
thehackernews.comOpenAI Compaction Flaw Let Researchers Bypass Hidden Reasoning Protections
xint.ioStealing OpenAI Reasoning Traces via Compaction ...
github.comGitHub - theori-io/ghost-compact: OpenAI compaction research: GhostCompact + Compaction Smuggling