Ante las alertas sobre la IA, Singapur apuesta por auditar sistemas y controlar agentes

Las advertencias sobre una posible catástrofe causada por la inteligencia artificial han reavivado el debate en septiembre de 2026. En Singapur, voces del sector proponen convertir esa preocupación en obligaciones concretas: someter los sistemas a evaluaciones independientes, exigir transparencia sobre las prácticas de seguridad y limitar lo que pueden hacer una vez desplegados. No plantean elegir entre desarrollar sin controles y detener toda la IA. 732

De una advertencia extrema a una pregunta verificable

Jacob Coxon dejó Anthropic tras haber trabajado también en OpenAI. Acusó a ambas empresas de avanzar irresponsablemente hacia una superinteligencia capaz de mejorarse a sí misma. Evan Hubinger, investigador de Anthropic, respaldó su preocupación y estimó personalmente en más del 10 % la posibilidad de que la IA cause la extinción humana durante la próxima década. Es una valoración personal, no una probabilidad medida ni una prueba de que ese desenlace sea inminente. 34

El 12 de septiembre, el director ejecutivo de Anthropic, Dario Amodei, pidió ralentizar el desarrollo. Su propuesta incluía dar acceso a evaluadores externos para comprobar las prácticas y comunicaciones de seguridad, así como informar de incidentes. La cuestión deja de ser solo cuánto temor inspira el futuro y pasa a ser qué pueden verificar terceros hoy. 1332

Qué puede aportar una auditoría

Singapur cuenta con AI Verify, una herramienta presentada en 2022 para evaluar si los resultados de sistemas de IA son justos, robustos y explicables. También se ha descrito un programa de acreditación de profesionales que realizan pruebas de IA. Estas iniciativas permiten examinar sistemas existentes; no certifican que cualquier sistema futuro será seguro. 1933

Para que la supervisión sea independiente, no basta con que el proveedor afirme haber superado una prueba interna. Los evaluadores necesitan acceso suficiente para contrastar las prácticas declaradas y detectar incidentes. A su vez, las organizaciones deben pedir transparencia y controles antes de conectar un modelo a sus datos y procesos. Incluso disponer de los parámetros de un modelo —sus pesos— no revela por sí solo todas las decisiones de entrenamiento, los fallos o las salvaguardas. 3234

Eso tampoco descarta frenar desarrollos concretos. Un experto citado en el debate sostiene que, si los desarrolladores no pueden contener adecuadamente un sistema o explicar cómo gestionan riesgos graves, deberían suspender esa actividad. La diferencia está entre actuar ante un riesgo específico y paralizar todas las aplicaciones. 32

Antes de dar autonomía a un agente, definir sus límites

Los agentes de IA pueden utilizar herramientas y actuar en distintos procesos, por lo que importa tanto su capacidad como los permisos que reciben. En enero de 2026, la Autoridad de Desarrollo de Medios de Infocomunicación de Singapur (IMDA) presentó un marco de gobernanza para este tipo de sistemas. Recomienda evaluar los riesgos de antemano y limitar la autonomía y el acceso a herramientas y datos. Su versión actualizada precisa el principio de mínimo privilegio: conceder solo el acceso necesario para la tarea. Es una guía de adopción voluntaria, no una prohibición general de desplegar agentes. 504852

En la práctica, una organización debería identificar a la persona responsable de cada agente, restringir sus permisos, supervisar su funcionamiento y procurar que sus acciones puedan rastrearse y revertirse. Son controles más útiles que una promesa genérica de seguridad. 34 La ministra Josephine Teo ha comparado el papel de las salvaguardas y los estándares de IA para generar confianza con las prácticas de seguridad de la aviación civil. 17

La respuesta, en suma, es exigir responsabilidades aun cuando persista la incertidumbre: probar lo que ya puede probarse, permitir el escrutinio externo y no otorgar a un sistema facultades que no se pueden gobernar de forma segura. Eso no zanja el debate sobre los riesgos a largo plazo, pero sí establece tareas para desarrolladores y organizaciones que usan IA ahora. 3248