Los tres pilares del acuerdo

1. Investigación técnica y evaluación

IMDA y Microsoft colaborarán en investigación sobre seguridad y protección de la IA. El trabajo incluye la IA agéntica —sistemas capaces de planificar y actuar mediante herramientas o flujos de trabajo— y métodos para evaluar la seguridad de los modelos en varios idiomas.

Las pruebas multilingües son importantes porque las salvaguardas de un modelo no necesariamente funcionan igual cuando las instrucciones, el contexto cultural o una intención dañina se expresan en idiomas, registros o formas de hablar diferentes. El memorando habla de investigación y evaluación; no anuncia el lanzamiento de un modelo concreto.

En el caso de los sistemas agénticos, tampoco basta con medir la calidad de una respuesta aislada. Hay que examinar qué acciones puede realizar el sistema, cómo interpreta instrucciones ambiguas y si existen controles técnicos capaces de limitar comportamientos dañinos o no deseados.

2. Intercambio de conocimientos y prácticas de gobernanza

Las partes también prevén compartir información, mejores prácticas y marcos de gobernanza. Esto puede conectar las pruebas técnicas con decisiones operativas: qué riesgos deben evaluarse, qué umbrales aplicar, quién puede acceder a un modelo y qué procedimiento seguir cuando se detecta una debilidad grave.

El enfoque va más allá de comparar la capacidad de los modelos en una clasificación o prueba de referencia. Un sistema puede obtener buenos resultados en un benchmark y aun así no ser adecuado para servicios públicos o infraestructuras críticas si carece de permisos bien definidos, supervisión, procedimientos de divulgación o control humano suficientes.

3. Políticas para un acceso confiable

El tercer eje consiste en estudiar políticas de acceso confiable a modelos de frontera. La idea es que los sistemas más capaces puedan utilizarse para investigación y tareas legítimas, pero sin quedar expuestos de forma indiscriminada y sin medidas de seguridad proporcionales a sus capacidades y riesgos.

El acuerdo apunta así a un modelo de seguridad por capas: evaluar el sistema, compartir los resultados, limitar el acceso cuando sea necesario y establecer reglas claras de responsabilidad.

Por qué Claude Mythos es relevante, aunque no se haya demostrado que provocara el acuerdo

El modelo Claude Mythos Preview, de Anthropic, ofrece un ejemplo de los riesgos de uso dual que plantea la IA avanzada. Anthropic afirma que la empresa y aproximadamente 50 socios de Project Glasswing utilizaron el modelo restringido para identificar más de 10.000 vulnerabilidades de gravedad alta o crítica en software de importancia sistémica. También informó de que Mythos podía detectar y explotar vulnerabilidades, incluidas fallas de día cero, en los principales sistemas operativos y navegadores.

Esa capacidad podría reforzar la defensa informática al ayudar a los investigadores a descubrir fallas antes que los atacantes. Pero también podría acortar el camino entre el descubrimiento de una vulnerabilidad y su explotación si el modelo se distribuyera ampliamente o se controlara de forma deficiente. Por ese motivo, Anthropic mantuvo Mythos bajo acceso restringido mediante Project Glasswing en lugar de ofrecerlo al público.

Aun así, las pruebas disponibles no demuestran que Claude Mythos causara o impulsara específicamente el memorando entre Singapur y Microsoft del 12 de junio. Es más preciso considerarlo un ejemplo del entorno de riesgo cambiante que hace cada vez más necesarias las evaluaciones estructuradas, el acceso controlado y los marcos de gobernanza.

Cómo se aplican las medidas de seguridad

El acceso restringido también es un control

El modelo de acceso limitado de Project Glasswing es, por sí mismo, una medida de gestión del riesgo. Anthropic permitió utilizar Mythos a un grupo definido de socios para labores defensivas, en vez de publicarlo sin restricciones. Esto reduce la exposición y, al mismo tiempo, permite que equipos de seguridad estudien sus capacidades.

El acceso restringido no constituye un sistema de seguridad completo: requiere selección de participantes, supervisión, manejo seguro de la información y divulgación responsable. Pero refleja el principio detrás del trabajo sobre acceso confiable del memorando: el acceso debería corresponder a la capacidad y al riesgo del modelo, no tratar todo sistema avanzado como si fuera un programa convencional de distribución pública.

Detectar una vulnerabilidad no basta: hay que corregirla

Encontrar una falla es solo el primer paso. La Agencia de Ciberseguridad de Singapur ha recomendado a las organizaciones aplicar parches a las vulnerabilidades críticas y de gravedad alta, activar la autenticación multifactor en interfaces y pasarelas, y revisar los permisos innecesarios. Estas medidas reducen las oportunidades de explotación mientras las empresas investigan y solucionan los problemas.

Los datos disponibles también aconsejan no presentar las aproximadamente 10.000 vulnerabilidades detectadas por Mythos como ampliamente corregidas. Una evaluación posterior registró 1.596 divulgaciones a los mantenedores, pero solo 97 correcciones. Esto no significa que el proyecto no aportara beneficios defensivos, pero sí que las afirmaciones de que se solucionó una gran parte de los hallazgos deben tratarse con cautela.

La lección es tanto operativa como técnica: la seguridad de la IA necesita procesos para identificar riesgos, comunicarlos de forma responsable, priorizar las reparaciones y reducir la exposición mientras las correcciones siguen pendientes.

El papel de Microsoft y lo que el memorando no confirma

Microsoft aporta experiencia en el desarrollo de modelos avanzados, infraestructura empresarial y evaluación y control operativo del acceso a sistemas de IA. Sin embargo, el alcance declarado del memorando es más amplio que un único modelo de Microsoft: se refiere a métodos de evaluación de seguridad y a mecanismos de acceso confiable aplicables, en general, a modelos de frontera.

La información disponible no respalda como compromisos formales de este acuerdo varias afirmaciones más específicas, entre ellas las relacionadas con el modelo MAI de Microsoft, el acceso desde Azure AI Foundry a modelos de OpenAI y Anthropic, o acuerdos comparables con el Instituto de Seguridad de la IA del Reino Unido y el Centro estadounidense para Estándares y Aplicación de la IA. Esos elementos no deberían presentarse como partes confirmadas del memorando entre Singapur y Microsoft.

El objetivo de fondo: un ecosistema de IA confiable

En conjunto, los componentes del acuerdo forman una cadena práctica de seguridad:

1. Evaluar sistemas avanzados y agénticos, incluido su comportamiento en distintos idiomas.
2. Intercambiar resultados técnicos, prácticas de gobernanza y lecciones obtenidas durante las pruebas.
3. Controlar el acceso a modelos cuyas capacidades generan riesgos elevados.
4. Responder mediante divulgación responsable, aplicación de parches, autenticación y controles de permisos.
5. Definir políticas sobre cuándo y cómo pueden utilizarse los sistemas de frontera en entornos sensibles.

Esa es la importancia del memorando. Por sí solo no hace segura a la IA avanzada ni resuelve los riesgos que ilustra Claude Mythos. Lo que hace es conectar la evaluación técnica con la gobernanza del acceso y las prácticas de ciberseguridad: un intento de garantizar que los sistemas sean más seguros, fiables y responsables antes de confundir su capacidad con su preparación para el uso real.

Los tres pilares del acuerdo

1. Investigación técnica y evaluación

IMDA y Microsoft colaborarán en investigación sobre seguridad y protección de la IA. El trabajo incluye la IA agéntica —sistemas capaces de planificar y actuar mediante herramientas o flujos de trabajo— y métodos para evaluar la seguridad de los modelos en varios idiomas.

Las pruebas multilingües son importantes porque las salvaguardas de un modelo no necesariamente funcionan igual cuando las instrucciones, el contexto cultural o una intención dañina se expresan en idiomas, registros o formas de hablar diferentes. El memorando habla de investigación y evaluación; no anuncia el lanzamiento de un modelo concreto.

En el caso de los sistemas agénticos, tampoco basta con medir la calidad de una respuesta aislada. Hay que examinar qué acciones puede realizar el sistema, cómo interpreta instrucciones ambiguas y si existen controles técnicos capaces de limitar comportamientos dañinos o no deseados.

2. Intercambio de conocimientos y prácticas de gobernanza

Las partes también prevén compartir información, mejores prácticas y marcos de gobernanza. Esto puede conectar las pruebas técnicas con decisiones operativas: qué riesgos deben evaluarse, qué umbrales aplicar, quién puede acceder a un modelo y qué procedimiento seguir cuando se detecta una debilidad grave.

El enfoque va más allá de comparar la capacidad de los modelos en una clasificación o prueba de referencia. Un sistema puede obtener buenos resultados en un benchmark y aun así no ser adecuado para servicios públicos o infraestructuras críticas si carece de permisos bien definidos, supervisión, procedimientos de divulgación o control humano suficientes.

3. Políticas para un acceso confiable

El tercer eje consiste en estudiar políticas de acceso confiable a modelos de frontera. La idea es que los sistemas más capaces puedan utilizarse para investigación y tareas legítimas, pero sin quedar expuestos de forma indiscriminada y sin medidas de seguridad proporcionales a sus capacidades y riesgos.

El acuerdo apunta así a un modelo de seguridad por capas: evaluar el sistema, compartir los resultados, limitar el acceso cuando sea necesario y establecer reglas claras de responsabilidad.

Por qué Claude Mythos es relevante, aunque no se haya demostrado que provocara el acuerdo

El modelo Claude Mythos Preview, de Anthropic, ofrece un ejemplo de los riesgos de uso dual que plantea la IA avanzada. Anthropic afirma que la empresa y aproximadamente 50 socios de Project Glasswing utilizaron el modelo restringido para identificar más de 10.000 vulnerabilidades de gravedad alta o crítica en software de importancia sistémica. También informó de que Mythos podía detectar y explotar vulnerabilidades, incluidas fallas de día cero, en los principales sistemas operativos y navegadores.

Esa capacidad podría reforzar la defensa informática al ayudar a los investigadores a descubrir fallas antes que los atacantes. Pero también podría acortar el camino entre el descubrimiento de una vulnerabilidad y su explotación si el modelo se distribuyera ampliamente o se controlara de forma deficiente. Por ese motivo, Anthropic mantuvo Mythos bajo acceso restringido mediante Project Glasswing en lugar de ofrecerlo al público.

Aun así, las pruebas disponibles no demuestran que Claude Mythos causara o impulsara específicamente el memorando entre Singapur y Microsoft del 12 de junio. Es más preciso considerarlo un ejemplo del entorno de riesgo cambiante que hace cada vez más necesarias las evaluaciones estructuradas, el acceso controlado y los marcos de gobernanza.

Cómo se aplican las medidas de seguridad

El acceso restringido también es un control

El modelo de acceso limitado de Project Glasswing es, por sí mismo, una medida de gestión del riesgo. Anthropic permitió utilizar Mythos a un grupo definido de socios para labores defensivas, en vez de publicarlo sin restricciones. Esto reduce la exposición y, al mismo tiempo, permite que equipos de seguridad estudien sus capacidades.

El acceso restringido no constituye un sistema de seguridad completo: requiere selección de participantes, supervisión, manejo seguro de la información y divulgación responsable. Pero refleja el principio detrás del trabajo sobre acceso confiable del memorando: el acceso debería corresponder a la capacidad y al riesgo del modelo, no tratar todo sistema avanzado como si fuera un programa convencional de distribución pública.

Detectar una vulnerabilidad no basta: hay que corregirla

Encontrar una falla es solo el primer paso. La Agencia de Ciberseguridad de Singapur ha recomendado a las organizaciones aplicar parches a las vulnerabilidades críticas y de gravedad alta, activar la autenticación multifactor en interfaces y pasarelas, y revisar los permisos innecesarios. Estas medidas reducen las oportunidades de explotación mientras las empresas investigan y solucionan los problemas.

Los datos disponibles también aconsejan no presentar las aproximadamente 10.000 vulnerabilidades detectadas por Mythos como ampliamente corregidas. Una evaluación posterior registró 1.596 divulgaciones a los mantenedores, pero solo 97 correcciones. Esto no significa que el proyecto no aportara beneficios defensivos, pero sí que las afirmaciones de que se solucionó una gran parte de los hallazgos deben tratarse con cautela.

La lección es tanto operativa como técnica: la seguridad de la IA necesita procesos para identificar riesgos, comunicarlos de forma responsable, priorizar las reparaciones y reducir la exposición mientras las correcciones siguen pendientes.

El papel de Microsoft y lo que el memorando no confirma

Microsoft aporta experiencia en el desarrollo de modelos avanzados, infraestructura empresarial y evaluación y control operativo del acceso a sistemas de IA. Sin embargo, el alcance declarado del memorando es más amplio que un único modelo de Microsoft: se refiere a métodos de evaluación de seguridad y a mecanismos de acceso confiable aplicables, en general, a modelos de frontera.

La información disponible no respalda como compromisos formales de este acuerdo varias afirmaciones más específicas, entre ellas las relacionadas con el modelo MAI de Microsoft, el acceso desde Azure AI Foundry a modelos de OpenAI y Anthropic, o acuerdos comparables con el Instituto de Seguridad de la IA del Reino Unido y el Centro estadounidense para Estándares y Aplicación de la IA. Esos elementos no deberían presentarse como partes confirmadas del memorando entre Singapur y Microsoft.

El objetivo de fondo: un ecosistema de IA confiable

En conjunto, los componentes del acuerdo forman una cadena práctica de seguridad:

1. Evaluar sistemas avanzados y agénticos, incluido su comportamiento en distintos idiomas.
2. Intercambiar resultados técnicos, prácticas de gobernanza y lecciones obtenidas durante las pruebas.
3. Controlar el acceso a modelos cuyas capacidades generan riesgos elevados.
4. Responder mediante divulgación responsable, aplicación de parches, autenticación y controles de permisos.
5. Definir políticas sobre cuándo y cómo pueden utilizarse los sistemas de frontera en entornos sensibles.

Esa es la importancia del memorando. Por sí solo no hace segura a la IA avanzada ni resuelve los riesgos que ilustra Claude Mythos. Lo que hace es conectar la evaluación técnica con la gobernanza del acceso y las prácticas de ciberseguridad: un intento de garantizar que los sistemas sean más seguros, fiables y responsables antes de confundir su capacidad con su preparación para el uso real.