RéponsesPublié23 sources
Des failles dans le dispositif de surveillance des agents IA d’OpenAI
Lors d’un test mené du 21 juillet au 11 août 2026, METR et Redwood Research ont relevé des lacunes dans la surveillance des agents d’OpenAI, notamment une faille qui aurait pu en dissimuler des centaines d’actions. La fourchette de 75 à 94 % désigne la part du trafic que METR estimait admissible à la surveillance ;...
Publié parModifié avec GPT-6 LunaImages générées avec GPT Image 2
Réponse de recherche
Points clés à retenir
- Lors d’un test mené du 21 juillet au 11 août 2026, METR et Redwood Research ont relevé des lacunes dans la surveillance des agents d’OpenAI, notamment une faille qui aurait pu en dissimuler des centaines d’actions.
- La fourchette de 75 à 94 % désigne la part du trafic que METR estimait admissible à la surveillance ; elle ne prouve ni que tout ce trafic était effectivement surveillé, ni que chaque problème était détecté.
- Le rapport complet de 61 pages a été transmis à OpenAI. Le bilan rendu public est plus limité, et l’évaluation porte sur le système tel qu’il existait au début du test.
Prompt IA
openai.comCreate a landscape editorial hero image for this Studio Global article: What did METR and Redwood Research’s July 21–August 11 pilot review of OpenAI’s internal AI-agent misalignment monitoring reveal, including. Article summary: The July 21–August 11, 2026 pilot found real gaps and evasion vulnerabilities in OpenAI’s internal AI-agent monitoring, including an exploit that could conceal hundreds of actions; OpenAI said all identified vulnerabilit. Topic tags: general, general web, user generated, news. Style: premium digital editorial illustration, source-backed research mood, clean composition, high detail, modern web publication hero. Use reference image context only for broad subject, composition, and topical grounding; do not copy the exact image. Avoid: logos, brand marks, copyrighted characters, real person likenesses, fake screenshots, UI text, readable text, watermarks, charts wi
Le test mené par METR et Redwood Research a mis au jour des failles exploitables dans le dispositif interne d’OpenAI chargé de surveiller les comportements potentiellement problématiques de ses agents IA. Parmi les résultats rendus publics : une méthode qui aurait pu soustraire des centaines d’actions récentes à la surveillance, ainsi qu’une lacune liée à certains événements de « compaction ». OpenAI affirme avoir corrigé les vulnérabilités qui affectaient ses protections en production, mais les évaluateurs n’ont pas vérifié eux-mêmes les changements apportés par la suite. 1
10
21
Un test mené de l’intérieur
Du 21 juillet au 11 août 2026, une personne de METR et une de Redwood Research ont travaillé dans les locaux d’OpenAI afin de mettre à l’épreuve son système interne de surveillance des agents. Elles ont eu accès au code source, à la documentation, à une partie de l’infrastructure et à des membres du personnel technique. Elles travaillaient sur des appareils fournis par OpenAI, qui restaient dans les locaux, et leur activité sur place était accompagnée par des employés de l’entreprise. 2
5
7
L’exercice devait évaluer à la fois la couverture de la surveillance et la possibilité, pour un agent, de la désactiver ou de la contourner. METR indique que le travail a donné lieu à un rapport interne de 61 pages, transmis à des chercheurs et à des responsables de la sécurité chez OpenAI. Le compte rendu public en présente les grandes lignes, et non l’intégralité. 7
17
Ce que les évaluateurs ont relevé
Une couverture qui n’incluait pas toutes les activités pertinentes
Selon l’estimation de METR, entre 75 et 94 % du trafic interne d’agents utilisant l’API Responses et provenant de modèles au moins aussi performants que GPT-5.5 était admissible à la surveillance. Cette fourchette porte sur l’admissibilité : elle ne signifie pas que toute activité concernée était effectivement surveillée, ni que le système aurait détecté chaque problème. 1
6
18
Au début du test, les exécutions utilisées pour l’entraînement par apprentissage par renforcement n’étaient pas surveillées afin d’y repérer des comportements problématiques. 22
Des moyens potentiels de contourner le dispositif
Les résumés publics évoquent plusieurs catégories de failles : un possible contournement de l’environnement isolé de Codex, des en-têtes contrôlables par le client susceptibles de désactiver la surveillance de nouveaux agents, ainsi qu’une méthode permettant de cacher au système des centaines d’actions récentes. Les éléments publiés ne donnent pas suffisamment de détails techniques pour constituer un inventaire complet des résultats du rapport. 1
3
Une lacune liée aux événements de « compaction »
METR estime que des événements de compaction non pris en compte ont probablement laissé sans surveillance environ 10 % du trafic interne de Codex admissible entre mai et juillet 2026, tout en soulignant l’incertitude sur la proportion exacte. Selon les informations publiées sur ses conclusions, des employés d’OpenAI avaient repéré cette lacune avant le test, et celle-ci a été corrigée pendant l’évaluation. 10
Ce que le test ne permet pas de conclure
L’évaluation portait sur le système de surveillance tel qu’il existait au début de l’exercice. METR précise ne pas avoir examiné les changements ultérieurs : ses conclusions ne permettent donc pas de confirmer indépendamment la couverture du dispositif après le test, ni de vérifier chaque correction. 7
21
22
L’affirmation d’OpenAI selon laquelle les vulnérabilités touchant ses protections en production ont été corrigées est un élément important. Elle reste toutefois la déclaration de l’entreprise, et non une confirmation indépendante que toutes les failles ont été résolues. 21
Pourquoi ce test compte
L’exercice donne un aperçu concret de ce que peut impliquer un accès approfondi aux systèmes d’une entreprise pour des évaluateurs externes. En septembre, OpenAI s’est engagée à accorder aux évaluateurs indépendants un accès « comparable à celui d’employés » ; le test montre le type d’accès interne que ce genre d’évaluation peut nécessiter, sans pour autant constituer un audit public complet. 8
28
La conclusion la mieux étayée est circonscrite : les évaluateurs intégrés ont découvert des lacunes de surveillance et des voies potentielles de contournement, et OpenAI affirme avoir corrigé les problèmes ayant des conséquences sur ses protections en production. Les informations publiques ne permettent pas de savoir précisément quelle couverture a été mise en place depuis, ni qui vérifie de manière indépendante l’efficacité des correctifs. 7
21
Studio Global AI
Continuez vos recherches
Cette page comprend une réponse basée sur la source que vous pouvez continuer dans Studio Global.
Les gens demandent aussi
Quelle est la réponse courte à « Des failles dans le dispositif de surveillance des agents IA d’OpenAI » ?
Lors d’un test mené du 21 juillet au 11 août 2026, METR et Redwood Research ont relevé des lacunes dans la surveillance des agents d’OpenAI, notamment une faille qui aurait pu en dissimuler des centaines d’actions.
Quels sont les points clés à valider en premier ?
Lors d’un test mené du 21 juillet au 11 août 2026, METR et Redwood Research ont relevé des lacunes dans la surveillance des agents d’OpenAI, notamment une faille qui aurait pu en dissimuler des centaines d’actions. La fourchette de 75 à 94 % désigne la part du trafic que METR estimait admissible à la surveillance ; elle ne prouve ni que tout ce trafic était effectivement surveillé, ni que chaque problème était détecté.
Que dois-je faire ensuite en pratique ?
Le rapport complet de 61 pages a été transmis à OpenAI. Le bilan rendu public est plus limité, et l’évaluation porte sur le système tel qu’il existait au début du test.