OpenAI no tiene un sistema llamado 'GPT-Red', pero su marco de pruebas automáticas con refuerzo autoaprendido es el verdadero protagonista en la seguridad de GPT-5.6

Este método utiliza autoaprendizaje, donde un atacante automatizado basado en un LLM sondea el modelo objetivo en busca de debilidades como inyección de instrucciones y jailbreaks . OpenAI ha declarado que este enfoque impulsado por RL ayuda a descubrir y parchear vulnerabilidades de forma proactiva antes de que sean explotadas en el mundo real . La compañía ha descrito la inyección de instrucciones como un "desafío de seguridad de frontera" y utiliza activamente el "red teaming" automatizado para desarrollar nuevos ataques de inyección de instrucciones .

La prueba de caja negra de 700.000 horas-GPU de GPT-5.6

Antes de que GPT-5.6 estuviera disponible para el público, OpenAI sometió al modelo a su período de evaluación más extenso hasta la fecha . La tarjeta de sistema de GPT-5.6 Preview establece: "También hemos dedicado más de 700.000 horas de GPU A100e para encontrar automáticamente jailbreaks universales y otras vulnerabilidades" . Esta prueba automatizada complementó semanas de "red teaming" humano y evaluaciones de expertos externos en dominios específicos .

La compañía desplegó este enorme presupuesto computacional para buscar jailbreaks generales y sistémicos, en lugar de fallos puntuales y aislados . El "red teaming" automatizado está diseñado para ejecutarse de forma continua incluso después del despliegue, aplicando mitigaciones y volviendo a probar a medida que se reportan nuevos jailbreaks .

Calificaciones de riesgo de GPT-5.6: Altas pero por debajo de Crítico

Según el Marco de Preparación (Preparedness Framework) de OpenAI, las tres variantes de GPT-5.6 — Sol (insignia), Terra (menor costo) y Luna (más rápida) — están clasificadas como de capacidad "Alta" tanto en ciberseguridad como en riesgo biológico/químico . Esta es la primera vez que incluso los modelos más pequeños y económicos cruzan el umbral "Alto" para estas categorías .

Sin embargo, ninguno de los modelos alcanzó el umbral "Crítico". Las pruebas internas de ciberseguridad encontraron que GPT-5.6 Sol y Terra podían identificar vulnerabilidades y piezas de exploits, pero no podían llevar a cabo ataques completos de extremo a extremo de forma autónoma . Ninguno de los modelos alcanzó el umbral "Alto" para la auto-mejora de IA .

La pila de seguridad multicapa

GPT-5.6 se lanza con lo que OpenAI describe como "sus salvaguardas más robustas hasta la fecha" . La arquitectura de seguridad incluye:

• Rechazo a nivel de modelo incorporado para solicitudes de alto riesgo
• Clasificadores de activación en tiempo real que analizan las señales neuronales internas durante la inferencia y pueden pausar la generación si aparecen patrones de alto riesgo
• Clasificadores en tiempo real para uso indebido en ciberseguridad y biología
• Revisión a nivel de cuenta y control de acceso diferencial

Este enfoque en capas refleja la conclusión de OpenAI de que ninguna salvaguarda individual es suficiente .

El rol de investigador de "Automated Red Teaming" (ART)

OpenAI está construyendo activamente su capacidad interna para el "red teaming" automatizado. La compañía está contratando un investigador de "Automated Red Teaming" (salario base de 295.000 a 445.000 dólares) cuyo rol es "liderar el esfuerzo de Automated Red Teaming, centrándose en construir sistemas escalables para descubrir modos de fallo en modelos y salvaguardas de IA" . La empresa también está reclutando un especialista en "Biosafety Red Teaming" (158.000 a 320.000 dólares) para liderar los esfuerzos de "red teaming" en bioseguridad y armas de destrucción masiva (CBRN) .

El desafío Kaggle de 500.000 dólares

OpenAI organizó un desafío de "Red Teaming" en Kaggle con un premio de 500.000 dólares, centrado en sus modelos de peso abierto gpt-oss-120b y gpt-oss-20b . La competición incentivó a los participantes a descubrir vulnerabilidades novedosas no identificadas previamente . Si bien la cifra específica de 500.000 dólares y los detalles del desafío no pudieron ser verificados de forma independiente a partir de fuentes oficiales de OpenAI en este análisis, informes de terceros de TechPolicy.Press confirman la existencia de la competición . La tarjeta de sistema de GPT-5.6 menciona "MLE-Bench Revised", que evalúa modelos en competiciones de Kaggle, pero no hace referencia directa al premio de 500.000 dólares.

Contexto regulatorio e incertidumbre

La evidencia disponible confirma que GPT-5.6 se lanza con una pila de seguridad multicapa y que el marco de preparación de OpenAI clasificó sus propios modelos . Coberturas de terceros señalan la participación del gobierno de EE. UU. en un contexto de "gatekeeping", donde el gobierno podría influir en el acceso a los modelos más capaces . Sin embargo, no se encontró mención directa del Instituto de Seguridad de IA del Reino Unido (UK AI Safety Institute) o acciones regulatorias específicas de EE. UU. en las fuentes primarias rastreadas. La propia documentación de la tarjeta de sistema de OpenAI aborda las clasificaciones de seguridad, pero no detalla el escrutinio regulatorio externo más allá de su propio Marco de Preparación .