La Casa Blanca y Anthropic crean un sistema de notas para medir la gravedad de los 'jailbreaks' en modelos de IA
El 12 de junio de 2026, el gobierno de EE.UU. ordenó a Anthropic restringir el acceso a sus modelos Fable 5 y Mythos 5 para todos los extranjeros, dando un ultimátum de 90 minutos.
What are the key details and points of contention in the White House's collaboration with Anthropic to develop a unified compliance frameworThe White House and Anthropic are jointly developing a unified grading system for AI jailbreak vulnerabilities, aiming to replace ad hoc crisis responses with clear risk thresholds.
Prompt de IA
Create a landscape editorial hero image for this Studio Global article: What are the key details and points of contention in the White House's collaboration with Anthropic to develop a unified compliance framewor. Article summary: Here is a comprehensive breakdown of the White House–Anthropic collaboration, the disputes, and the emerging framework.. Topic tags: general, general web, user generated, news. Style: premium digital editorial illustration, source-backed research mood, clean composition, high detail, modern web publication hero. Use reference image context only for broad subject, composition, and topical grounding; do not copy the exact image. Avoid: logos, brand marks, copyrighted characters, real person likenesses, fake screenshots, UI text, readable text, watermarks, charts with fake numbers, clickbait thumbnails, icons, and tiny thumbnail layouts. Make it useful as an illus
openai.com
El 12 de junio de 2026, el Departamento de Comercio de EE.UU. envió una directiva de control de exportaciones al CEO de Anthropic, Dario Amodei, dándole 90 minutos para restringir el acceso a sus dos modelos de IA más avanzados — Claude Fable 5 y Claude Mythos 5 — para todos los ciudadanos extranjeros . Los modelos se habían lanzado solo tres días antes . Al no poder aplicar de manera fiable una restricción de acceso exclusiva para EE.UU., Anthropic desactivó ambos modelos a nivel global . Esta fue la primera vez que el gobierno de EE.UU. ordenaba a un laboratorio de IA de frontera retirar un modelo desplegado del mercado, lo que desencadenó una serie de eventos que están redefiniendo la supervisión federal de la seguridad de la IA .
Studio Global AI
Search, cite, and publish your own answer
Use this topic as a starting point for a fresh source-backed answer, then compare citations before you share it.
¿Cuál es la respuesta corta a "La Casa Blanca y Anthropic crean un sistema de notas para medir la gravedad de los 'jailbreaks' en modelos de IA"?
El 12 de junio de 2026, el gobierno de EE.UU. ordenó a Anthropic restringir el acceso a sus modelos Fable 5 y Mythos 5 para todos los extranjeros, dando un ultimátum de 90 minutos.
¿Cuáles son los puntos clave a validar primero?
El 12 de junio de 2026, el gobierno de EE.UU. ordenó a Anthropic restringir el acceso a sus modelos Fable 5 y Mythos 5 para todos los extranjeros, dando un ultimátum de 90 minutos. La disputa se centró en si un jailbreak reportado era una vulnerabilidad 'estrecha y no universal', como sostenía Anthropic, o un riesgo inaceptable para la seguridad nacional, como argumentaba la Casa Blanca, que tem...
¿Qué debo hacer a continuación en la práctica?
Tras el enfrentamiento inicial, la Casa Blanca y Anthropic pasaron a negociar un marco de cumplimiento unificado para clasificar la gravedad de los jailbreaks según tres criterios: protecciones eludidas, capacidades e...
Una disputa sobre qué constituye un jailbreak peligroso
El detonante inmediato de los controles de exportación fue un supuesto jailbreak, un método para eludir las salvaguardas de seguridad de los modelos. Sin embargo, ambas partes discreparon fuertemente sobre su gravedad.
La posición de Anthropic: El CEO Dario Amodei argumentó en llamadas de emergencia con funcionarios que el jailbreak en cuestión era "estrecho" y "no universal" — no era un bypass sistémico que pudiera explotarse ampliamente. La empresa declaró públicamente que el gobierno solo había proporcionado "evidencia verbal de un potencial jailbreak estrecho y no universal" . "Discrepamos en que el hallazgo de un jailbreak estrecho potencial fuera motivo para retirar un modelo comercial", dijo Anthropic en una publicación de blog .
La posición del gobierno: La Casa Blanca consideró que cualquier bypass demostrado de las salvaguardas en un modelo con capacidades avanzadas de ciberofensa — Fable 5 fue diseñado en parte para identificar vulnerabilidades de software — era un riesgo inaceptable para la seguridad nacional, particularmente si los modelos seguían siendo accesibles para adversarios extranjeros .
El desacuerdo escaló rápidamente. Según múltiples informes, Amodei se opuso firmemente en llamadas con funcionarios de la administración, describiendo las preocupaciones del gobierno como un malentendido, y en un momento las negociaciones casi se rompieron por completo .
La Casa Blanca designó a Fable 5 como un caso de prueba para sus nuevas directrices de la orden ejecutiva de IA, coordinando entre el Departamento de Comercio, el Tesoro y la propia Casa Blanca . La administración temía que las capacidades de los modelos pudieran permitir el acceso chino a herramientas de ciberseguridad ofensivas y otras tecnologías peligrosas de doble uso .
Del enfrentamiento a la negociación: Construyendo un marco de cumplimiento unificado
En cuestión de días después de la crisis de control de exportaciones, la Casa Blanca y Anthropic pasaron del enfrentamiento a la negociación estructurada . El 17 de abril de 2026, Amodei se reunió con funcionarios de la Casa Blanca en lo que se describió como conversaciones de tregua productivas — el primer contacto de alto nivel desde la fricción anterior entre Anthropic y el Pentágono .
Las figuras clave en las subsiguientes discusiones de alto nivel incluyen al Secretario de Comercio de EE.UU., Howard Lutnick; al Director Nacional de Ciberseguridad, Sean Cairncross; y al cofundador de Anthropic, Tom Brown . La administración ha coordinado entre el Departamento de Comercio, el Tesoro y la Casa Blanca para el caso de prueba de Fable 5 .
El proyecto central que ha surgido de estas conversaciones es un marco de cumplimiento unificado para evaluar la gravedad de las vulnerabilidades de seguridad — particularmente los jailbreaks — en los modelos de IA de frontera . El marco está diseñado para crear puntos de referencia comunes para evaluar si un fallo de seguridad justifica la intervención del gobierno .
El sistema de calificación unificado: Tres criterios
En el centro del esfuerzo hay un sistema de calificación unificado para jailbreaks. Aunque no se han publicado etiquetas oficiales (por ejemplo, "Crítico", "Alto", "Medio", "Bajo") ni una rúbrica detallada, el marco evalúa las vulnerabilidades según tres criterios de evaluación de riesgos:
Protecciones eludidas — Qué salvaguardas de seguridad (por ejemplo, clasificadores constitucionales, filtros en tiempo real) fueron derrotadas.
Capacidades expuestas — Qué capacidades peligrosas del modelo (por ejemplo, ciberofensa, guía biológica, síntesis química) se volvieron accesibles.
Impacto en el mundo real — Con qué facilidad podría explotarse el jailbreak a escala y qué daño podría causar.
El objetivo del gobierno es utilizar este sistema de calificación para establecer umbrales de riesgo claros y predefinidos que determinen automáticamente si se deben imponer controles de exportación, requerir mitigaciones o bloquear el despliegue, en lugar de actuar de forma ad hoc después de una crisis .
El objetivo estratégico del gobierno: Pasar de reactivo a un sistema basado en reglas
El objetivo general del gobierno es pasar de una intervención reactiva e impulsada por crisis a un sistema basado en reglas. Al co-desarrollar el marco de calificación y los umbrales de riesgo con Anthropic, la Casa Blanca busca:
Crear previsibilidad para los laboratorios de IA sobre qué desencadena la acción gubernamental.
Establecer terminología compartida para describir la gravedad de las vulnerabilidades.
Evitar futuros escenarios en los que un modelo se despliegue públicamente y luego se cierre abruptamente bajo controles de exportación, como sucedió con Fable 5 y Mythos 5.
Incertidumbre clave: No se han publicado criterios detallados, alcance ni cronograma para el marco. Los tres criterios de evaluación de riesgos (protecciones eludidas, capacidades expuestas, impacto en el mundo real) han sido reportados por múltiples medios, pero la metodología de puntuación específica no se ha dado a conocer .
El contexto más amplio del G7
El desarrollo del marco entre EE.UU. y Anthropic se da en el contexto de las discusiones del G7 sobre estándares de seguridad de IA. El G7 ha estado trabajando hacia puntos de referencia internacionales armonizados para evaluar los riesgos de la IA de frontera . Se espera que el sistema de calificación unificado que están construyendo la Casa Blanca y Anthropic informe — y sea informado por — esas conversaciones multilaterales más amplias, aunque los resultados específicos del G7 aún están en negociación .
¿Qué viene después?
El desarrollo del marco marca un giro significativo en la política de IA de EE.UU. Solo unos días antes de los controles de exportación, Amodei había publicado un ensayo político argumentando que los gobiernos deberían tener la autoridad legal obligatoria para bloquear o revertir el despliegue de modelos de IA de frontera que no superen las pruebas de seguridad independientes . La crisis del 12 de junio puso ese principio a prueba de una manera inesperadamente conflictiva.
La pregunta clave que sigue abierta: cómo definir la línea entre una vulnerabilidad estrecha y manejable y un riesgo sistémico que justifique la intervención del gobierno. La respuesta moldeará no solo los futuros lanzamientos de Anthropic, sino también el panorama regulatorio más amplio para el desarrollo de la IA de frontera.
Comments
0 comments