El acceso de la UE a pruebas de IA deja al descubierto la brecha del Reino Unido

El hecho de que el Reino Unido quedara, según los informes, fuera de las pruebas previas al lanzamiento de Claude Mythos 5.1 no es tanto un juicio sobre la capacidad técnica británica como una alerta sobre el acceso. Un organismo nacional no puede evaluar de forma independiente y a tiempo un modelo de frontera si su participación depende, en última instancia, del consentimiento de la empresa desarrolladora.

El acceso de ENISA —la Agencia de la Unión Europea para la Ciberseguridad— a Mythos 5 y GPT-6 Astra es relevante. Pero no implica que la UE tenga un derecho permanente a probar todos los modelos sucesores, ni que haya recibido acceso a Mythos 5.1. 920

La clave: el acceso depende de cada modelo

Según un portavoz de la Comisión Europea, ENISA ha obtenido acceso a Mythos 5, de Anthropic, y a GPT-6 Astra, de OpenAI, y está realizando pruebas. 9 Por separado, se informó de que Anthropic no facilitó Mythos 5.1 al Instituto de Seguridad de la IA del Reino Unido antes de su lanzamiento; sería la primera vez que la empresa deja fuera a ese organismo de un proceso de pruebas previas de un modelo importante. 2023

No conviene reducir estos hechos a una lectura simple de «victoria de la UE» y «derrota del Reino Unido». El acceso de ENISA se refiere a dos modelos concretos y a acuerdos específicos. Mythos 5.1 es una versión distinta, sometida a un régimen de acceso más restringido. La lección práctica es que la evaluación de seguridad se está fragmentando según la versión del modelo, sus capacidades, su uso previsto, la jurisdicción y los criterios de selección de socios de cada desarrolladora.

Por qué Mythos 5.1 plantea un reto de gobernanza mayor

Anthropic afirma que Claude Fable 5.1 y Claude Mythos 5.1 comparten el mismo modelo subyacente, pero cuentan con salvaguardas diferentes. Fable 5.1 está disponible de forma general, mientras que Mythos 5.1 solo se ofrece mediante programas de acceso de confianza destinados a trabajos de ciberseguridad y ciencias de la vida. 12

Por eso no se trata solo de una prueba rutinaria de producto. Un sistema pensado para tareas sensibles en ciberseguridad o investigación científica plantea cuestiones de entornos controlados, supervisión de usos indebidos, verificación del personal y gestión de información ligada a la seguridad nacional. Los informes indican que el acceso inicial a Mythos 5.1 se limitó a organizaciones estadounidenses evaluadas previamente. 1824

Las pruebas disponibles no demuestran que Anthropic excluyera al Reino Unido por desconfiar del país o de su instituto. El diseño del programa restringido, las preocupaciones de seguridad operativa y el control comercial del acceso son explicaciones plausibles. Aun así, el resultado importa: la cooperación previa y la reputación de un evaluador no garantizaron un acceso puntual a un modelo de alto impacto.

Qué revela el acceso de ENISA sobre la capacidad de presión de la UE

La Unión Europea dispone de una base jurídica más sólida que un sistema enteramente voluntario. El artículo 55 de la Ley de IA de la UE exige a los proveedores de modelos de IA de propósito general con riesgo sistémico que realicen evaluaciones con protocolos y herramientas estandarizados, analicen y mitiguen riesgos sistémicos, registren y notifiquen incidentes graves y mantengan un nivel adecuado de ciberseguridad. 4337

La norma también contempla evaluaciones antes de la primera comercialización de un modelo, incluidas pruebas adversariales documentadas, que pueden ser internas o realizadas por terceros independientes cuando corresponda. 3534

Sin embargo, esas obligaciones para las empresas no equivalen a un derecho general de ENISA a recibir los pesos del modelo, acceso sin restricciones al sistema o acceso previo al lanzamiento de todas las versiones de frontera. El acuerdo de pruebas con ENISA es importante precisamente porque parece haberse logrado mediante la colaboración con las compañías, además de la posición regulatoria más amplia de la UE. 49

En otras palabras, la regulación puede reforzar la capacidad europea para exigir evidencias, gestión de riesgos y cumplimiento. No elimina la necesidad operativa de cooperar de manera segura cuando se evalúan modelos con capacidades sensibles en ciberseguridad, biología o agentes autónomos.

Por qué el Reino Unido queda más expuesto

La exclusión reportada de Mythos 5.1 deja especialmente claros los límites del acceso voluntario. Los análisis sobre el episodio recogen peticiones para dar una base legal y mayores facultades al Instituto de Seguridad de la IA del Reino Unido después de que Anthropic no le concediera acceso a su último modelo. 23

Un enfoque voluntario puede funcionar cuando los laboratorios perciben valor en colaborar. También puede ser más rápido y flexible desde el punto de vista técnico que una normativa rígida. Su debilidad es la previsibilidad: el desarrollador puede limitar el acceso, modificar el grupo de socios admisibles o decidir que un modelo debe circular por un canal de seguridad nacional más restringido.

Esto crea un riesgo estratégico para el Reino Unido. Si sus evaluadores reciben sistemas de frontera solo después del lanzamiento —o una vez que otros gobiernos y socios autorizados ya los han probado—, el país podría pasar de contribuir a generar la evidencia de seguridad a depender de evidencia producida en otros lugares.

Un enfoque británico más duradero

El objetivo inmediato no tendría por qué ser obligar a entregar los pesos de los modelos. En sistemas muy capaces, eso también puede generar riesgos de seguridad y de propiedad intelectual. Un marco más sólido podría centrarse, en cambio, en un acceso controlado y auditable.

Entre las medidas posibles figuran:

1. Notificación previa al despliegue de modelos de frontera designados. Los desarrolladores podrían estar obligados a informar a una autoridad designada antes de desplegar modelos que superen umbrales definidos de capacidad o riesgo.
2. Facultades legales para solicitar información. El Instituto de Seguridad de la IA podría tener autoridad clara para obtener expedientes de seguridad, resultados de evaluaciones, datos sobre incidentes y documentación técnica pertinente.
3. Entornos seguros de evaluación. Las reglas podrían exigir acceso temporal mediante API supervisadas, sistemas aislados o entornos controlados, sin necesidad de reclamar los pesos del modelo.
4. Una vía de revisión de seguridad nacional. Los modelos con implicaciones relevantes para la ciberseguridad, las ciencias de la vida o los agentes autónomos podrían activar una revisión coordinada que reúna conocimientos de ciberseguridad, bioseguridad, inteligencia y evaluación de IA.
5. Cooperación formal con la UE. Protocolos compartidos, canales recíprocos de pruebas seguras y procesos compatibles de notificación de incidentes reducirían duplicidades y ayudarían a evitar que el Reino Unido quede fuera de las redes europeas de evaluación.

Estas propuestas se centran en la debilidad que ha dejado al descubierto el caso: el acceso debe estar diseñado dentro del sistema de gobernanza, no depender por completo de la relación con cada laboratorio.

La evaluación de la IA de frontera será cada vez más escalonada

La trayectoria más probable es un sistema de evaluación por niveles. Los modelos destinados al mercado general estarán sujetos a pruebas de los proveedores, documentación regulatoria y obligaciones de notificación de incidentes. Las capacidades más sensibles en ciberseguridad, biología y agentes autónomos se evaluarán cada vez más en entornos restringidos. Los sistemas de mayor riesgo podrían quedar disponibles solo para un grupo reducido de gobiernos, laboratorios y socios de seguridad previamente autorizados.

El acuerdo de ENISA y la exclusión británica de Mythos 5.1 muestran por qué esta distinción es crucial. La competencia ya no consiste únicamente en quién puede construir el modelo más potente, sino también en quién puede inspeccionar, probar y gobernar las versiones más decisivas antes de que alcancen una implantación más amplia. 91220

Para el Reino Unido, la capacidad técnica de evaluación sigue siendo valiosa, pero por sí sola no basta. Mantener influencia requerirá facultades legales fiables dentro del país y acuerdos de acceso duraderos, compatibles con la seguridad, con socios en el exterior.