RespuestasPublicado23 fuentes
Qué reveló la revisión de METR y Redwood sobre el monitoreo de OpenAI
En una prueba realizada del 21 de julio al 11 de agosto de 2026, METR y Redwood detectaron brechas en el monitoreo de agentes de OpenAI, incluido un método que podía ocultar cientos de acciones. La cifra estimada de entre el 75 % y el 94 % se refiere al tráfico que podía ser elegible para monitoreo, no a una prueba...
Publicado porEditado con GPT-6 LunaImágenes generadas con GPT Image 2
Respuesta de investigación
Conclusiones clave
- En una prueba realizada del 21 de julio al 11 de agosto de 2026, METR y Redwood detectaron brechas en el monitoreo de agentes de OpenAI, incluido un método que podía ocultar cientos de acciones.
- La cifra estimada de entre el 75 % y el 94 % se refiere al tráfico que podía ser elegible para monitoreo, no a una prueba de que toda esa actividad se supervisara o de que se detectaran todos los problemas.
- El informe completo, de 61 páginas, se compartió con OpenAI. La evaluación examinó el sistema tal como existía al inicio de la prueba y no verificó de forma independiente los cambios posteriores.
Prompt de IA
openai.comCreate a landscape editorial hero image for this Studio Global article: What did METR and Redwood Research’s July 21–August 11 pilot review of OpenAI’s internal AI-agent misalignment monitoring reveal, including. Article summary: The July 21–August 11, 2026 pilot found real gaps and evasion vulnerabilities in OpenAI’s internal AI-agent monitoring, including an exploit that could conceal hundreds of actions; OpenAI said all identified vulnerabilit. Topic tags: general, general web, user generated, news. Style: premium digital editorial illustration, source-backed research mood, clean composition, high detail, modern web publication hero. Use reference image context only for broad subject, composition, and topical grounding; do not copy the exact image. Avoid: logos, brand marks, copyrighted characters, real person likenesses, fake screenshots, UI text, readable text, watermarks, charts wi
La prueba piloto de tres semanas de METR y Redwood Research detectó debilidades concretas en el sistema interno de OpenAI que vigila posibles conductas desalineadas de sus agentes de inteligencia artificial. Entre los hallazgos hubo una forma de ocultar cientos de acciones y una brecha vinculada a eventos de compactación. OpenAI afirmó que corrigió las vulnerabilidades que afectaban las protecciones en producción, pero los evaluadores no comprobaron de manera independiente los cambios posteriores. 1
10
21
Cómo se hizo la prueba
Del 21 de julio al 11 de agosto de 2026, una persona de cada organización trabajó en las instalaciones de OpenAI para poner a prueba su sistema interno de monitoreo. Los evaluadores tuvieron acceso al código fuente, documentación, parte de la infraestructura interna y personal técnico. Usaron dispositivos proporcionados por la empresa que no salieron de sus instalaciones, y empleados de OpenAI acompañaron el trabajo presencial. 2
5
7
El ejercicio buscaba medir tanto qué proporción de la actividad quedaba bajo monitoreo como si los agentes podían desactivarlo o eludirlo. METR dijo que el trabajo dio lugar a un informe interno de 61 páginas, compartido con investigadores y personal de seguridad de OpenAI. Lo publicado fue un resumen general, no el informe completo. 7
17
Qué encontraron los evaluadores
La cobertura no incluía toda la actividad relevante
Según la estimación de METR, entre el 75 % y el 94 % del tráfico interno de agentes en la Responses API —proveniente de modelos al menos tan capaces como GPT-5.5— podía ser elegible para monitoreo. Ese intervalo se refiere a la elegibilidad; no demuestra que toda la actividad considerada elegible se supervisara ni que el sistema detectara cada problema. 1
6
18
La revisión también encontró que, al comenzar el ejercicio, las ejecuciones de entrenamiento por aprendizaje por refuerzo no se monitoreaban para detectar desalineación. 22
Había posibles formas de esquivar la supervisión
Los resúmenes públicos describen varios tipos de vulnerabilidad: un posible bypass del entorno aislado de Codex, encabezados controlables desde el cliente que podían desactivar el monitoreo de nuevas instancias de agentes y un exploit capaz de ocultar cientos de acciones recientes al sistema de vigilancia. La información publicada no ofrece suficientes detalles técnicos para considerarla un recuento completo de los hallazgos. 1
3
Los eventos de compactación dejaron una brecha
METR estimó que los eventos de compactación que no se monitoreaban probablemente dejaron sin supervisión alrededor del 10 % del tráfico interno de Codex elegible entre mayo y julio de 2026, aunque advirtió que la proporción exacta es incierta. Según la cobertura de esos hallazgos, personal de OpenAI había detectado la brecha antes de la prueba y la corrigió durante la revisión. 10
Qué no demuestra la revisión
La evaluación se centró en el sistema tal como existía al inicio del piloto. METR dijo que no evaluó los cambios posteriores; por tanto, la revisión no puede confirmar de manera independiente cuál fue la cobertura más adelante ni verificar cada corrección. 7
21
22
La afirmación de OpenAI de que se corrigieron las vulnerabilidades que afectaban sus protecciones en producción es relevante, pero corresponde a la versión de la empresa sobre las medidas adoptadas: no equivale a una confirmación independiente de que todas las debilidades quedaron resueltas. 21
Por qué importa el piloto
El ejercicio puso a prueba cómo puede ser una evaluación externa con acceso profundo y presencial. Más adelante, en septiembre, OpenAI se comprometió a ofrecer a evaluadores independientes un «acceso similar al de sus empleados». El piloto ilustra el tipo de acceso interno que estas revisiones pueden requerir, pero no debe confundirse con una auditoría pública completa. 8
28
La conclusión más concreta es que los evaluadores encontraron brechas de monitoreo y posibles vías de evasión, y OpenAI dijo haber corregido los problemas que afectaban sus protecciones en producción. La información pública no permite saber con qué amplitud quedó cubierto el sistema después ni quién verifica de forma independiente que las correcciones funcionen. 7
21
Studio Global AI
Continúe su investigación
Esta página incluye una respuesta respaldada por fuentes que puede continuar dentro de Studio Global.
La gente también pregunta
¿Cuál es la respuesta corta a "Qué reveló la revisión de METR y Redwood sobre el monitoreo de OpenAI"?
En una prueba realizada del 21 de julio al 11 de agosto de 2026, METR y Redwood detectaron brechas en el monitoreo de agentes de OpenAI, incluido un método que podía ocultar cientos de acciones.
¿Cuáles son los puntos clave a validar primero?
En una prueba realizada del 21 de julio al 11 de agosto de 2026, METR y Redwood detectaron brechas en el monitoreo de agentes de OpenAI, incluido un método que podía ocultar cientos de acciones. La cifra estimada de entre el 75 % y el 94 % se refiere al tráfico que podía ser elegible para monitoreo, no a una prueba de que toda esa actividad se supervisara o de que se detectaran todos los problemas.
¿Qué debo hacer a continuación en la práctica?
El informe completo, de 61 páginas, se compartió con OpenAI. La evaluación examinó el sistema tal como existía al inicio de la prueba y no verificó de forma independiente los cambios posteriores.