Por qué Singapur mira a la aviación para pensar la seguridad de la IA

Subirse a un avión implica confiar en algo más que su fabricante: también cuentan las normas, el mantenimiento, la formación del personal y los controles. Josephine Teo, ministra de Desarrollo Digital e Información de Singapur, cree que la inteligencia artificial (IA) necesitará una confianza pública parecida a medida que se vuelva más capaz y se utilice más. Su planteamiento del 17 de septiembre de 2026 marca una dirección a seguir, no describe un sistema de seguridad que ya esté plenamente implantado. 31924

La clave de la comparación: varias capas de protección

Teo ha equiparado a los fabricantes de aviones con quienes crean modelos de IA, pero advierte que la responsabilidad no termina ahí. La comparación apunta a combinar pruebas, criterios de uso responsable, personal preparado y normas compartidas, en vez de dar por seguro un sistema solo porque resulta útil. 1924

¿Por qué importa? En decisiones que afectan a las personas, un fallo puede ir más allá de una respuesta incorrecta. Teo ha puesto como ejemplo el uso de IA para aprobar créditos y ha señalado preocupaciones como los sesgos y la pérdida de supervisión humana. El marco de pruebas AI Verify se ha actualizado para abordar riesgos como la filtración de datos personales o sensibles, las respuestas inventadas —conocidas como alucinaciones— y otros resultados perjudiciales. Las crónicas sobre sus declaraciones de septiembre también mencionan ciberataques y posibles usos maliciosos en el ámbito biológico. Son riesgos que se busca gestionar, no una lista de incidentes verificados vinculados a su propuesta. 25262739

En otras intervenciones, Teo ha hablado de imágenes perjudiciales generadas con IA y de la obligación de ciertos servicios de retirarlas tras recibir una notificación. Las fuentes disponibles no establecen, sin embargo, que un caso reciente concreto desencadenara su comparación con la aviación. 13

Qué está haciendo Singapur

La apuesta combina orientación y comprobaciones prácticas. AI Verify ofrece un marco y herramientas para probar sistemas de IA de forma responsable y dar mayor transparencia a su funcionamiento. Teo también ha anunciado un programa de acreditación de evaluadores independientes: la idea es que las organizaciones que incorporan IA tengan más garantías al elegir quién examina sus sistemas. 827

En el terreno técnico, un programa piloto internacional, el Global AI Assurance Pilot, estudió cómo comprobar la fiabilidad de aplicaciones de IA generativa. Sus resultados sirvieron para elaborar un kit inicial de métodos de prueba de la autoridad singapurense de desarrollo de medios y comunicaciones, IMDA. Singapur cuenta además con una guía de gobernanza para la IA con capacidad de actuar de forma más autónoma, centrada en gestionar riesgos y mantener la supervisión humana. 299

Lo que aún falta

Los productos de IA cruzan fronteras, por lo que Singapur defiende métodos de evaluación basados en pruebas que puedan funcionar bajo distintos marcos regulatorios. Teo reconoce que las normas internacionales serán importantes, pero tardarán en consolidarse. La lección de la aviación es, por ahora, una meta: reforzar las salvaguardias al mismo tiempo que crece el uso de la IA, sin confundir las pruebas y guías actuales con un régimen de seguridad completo y asentado. 6730