El Gobierno de EE.UU. ordena a Anthropic apagar sus modelos Fable 5 y Mythos 5 para todo el mundo

"El efecto neto de esta orden es que debemos desactivar abruptamente Fable 5 y Mythos 5 para todos nuestros clientes para asegurar su cumplimiento", declaró la empresa en su blog oficial y en X (antes Twitter) . El acceso a sus otros modelos de IA, incluido el popular chatbot Claude, no se ha visto afectado .

¿Qué provocó la acción del gobierno?

Las preocupaciones de seguridad nacional del gobierno se centran en lo que los funcionarios describieron como vulnerabilidades de 'jailbreak' y la capacidad potencial de los modelos para realizar investigaciones autónomas de ciberseguridad . Según los informes, el gobierno solo proporcionó evidencia verbal de un posible 'jailbreak' limitado y no universal, que básicamente consiste en un método para pedir al modelo que lea un código base específico y corrija errores de software .

Es posible que las propias advertencias de seguridad de Anthropic sobre sus modelos contribuyeran involuntariamente a la alarma del gobierno. La compañía había reconocido previamente que Mythos 5, su modelo más capaz destinado a un uso restringido, presentaba riesgos significativos de ciberseguridad, lo que llevó a la Casa Blanca a establecer protecciones para las agencias federales a las que se les dio acceso especial . Fable 5 se lanzó públicamente apenas unos días antes de la prohibición como una versión más segura, entrenada para rechazar solicitudes dañinas, pero la rápida medida del gobierno sugiere que no estaba convencido de que las salvaguardas fueran suficientes .

Esta es la primera vez que el gobierno de EE.UU. clasifica un modelo de lenguaje extenso específico como una preocupación de seguridad nacional y utiliza las reglas de 'exportación considerada' (o 'deemed-exports') para restringir el acceso incluso a ciudadanos extranjeros que trabajan en suelo estadounidense . El Secretario de Comercio, Howard Lutnick, comunicó personalmente los controles de exportación al CEO de Anthropic, Dario Amodei, mediante una carta .

La inclusión sin precedentes de los propios empleados de Anthropic

El alcance de la directiva sobre la fuerza laboral de Anthropic es lo que hizo que el cumplimiento fuera tan absoluto. Los funcionarios del gobierno declararon explícitamente que la prohibición se aplica a "cualquier ciudadano extranjero, ya sea dentro o fuera de los Estados Unidos, incluidos los empleados extranjeros de Anthropic" .

Esto significaba que incluso los investigadores e ingenieros que trabajaban en el proyecto Glass Wing (la iniciativa interna de Anthropic para la seguridad de vanguardia) y que no son ciudadanos o residentes permanentes de EE.UU. tenían prohibido acceder a los modelos . Con la restricción aplicándose dentro de los propios muros de la empresa, Anthropic no podía simplemente limitar el acceso de clientes externos y continuar el desarrollo internamente. El único camino para el cumplimiento fue un apagón global completo hasta que se pudieran encontrar soluciones técnicas o legales .

El episodio marca una aplicación drástica de la ley de control de exportaciones de EE.UU. a la inteligencia artificial, tratando los modelos avanzados de forma similar a las armas o la tecnología de defensa sensible. Las reglas de 'exportación considerada' significan que compartir tecnología controlada con un ciudadano extranjero dentro de EE.UU. es legalmente equivalente a exportarla al extranjero .

La respuesta de Anthropic: Esto es un "malentendido"

Anthropic cumplió rápidamente, pero dejó claro que cree que el gobierno se ha equivocado. "Creemos que esto es un malentendido y estamos trabajando para restaurar el acceso lo antes posible", dijo la compañía en su declaración pública .

La empresa ha subrayado que la evidencia de 'jailbreak' que recibió era limitada y no universal, sugiriendo que el gobierno podría estar sobreestimando los riesgos prácticos . Mientras tanto, la compañía ha prometido mantener todos los demás modelos de Claude en línea mientras negocia un camino para restaurar Fable 5 y Mythos 5 .

Por ahora, la orden sin precedentes se mantiene, y los dos modelos de IA más poderosos jamás retirados del acceso público por razones de seguridad nacional permanecen apagados. Cuánto durará esto —y qué precedente sienta para otras empresas de IA de frontera— será el próximo capítulo en el debate que se intensifica rápidamente sobre quién puede usar los sistemas de IA más capaces.