Por qué Singapur mira a la aviación para hacer más segura la IA

Subir a un avión exige confiar en mucho más que su diseño. Importan también el mantenimiento, la gestión del espacio aéreo y los aeropuertos, la formación del personal y la aplicación constante de las medidas de seguridad. Esa red de responsabilidades es la que la ministra de Desarrollo Digital e Información de Singapur, Josephine Teo, quiere tomar como referencia para la inteligencia artificial (IA). 79

En una publicación de LinkedIn del 17 de septiembre, Teo planteó que la IA podría necesitar, con el tiempo, un sistema de seguridad comparable al de la aviación civil. No afirmó que ese sistema ya exista: su argumento es que la confianza necesaria para usar una tecnología de forma habitual depende de salvaguardas que deben madurar mientras aumenta su adopción. 23

De una prueba aislada a varias capas de protección

La comparación no consiste en trasladar cada norma aeronáutica a la IA. Sirve para preguntar quién comprueba un sistema antes de utilizarlo, cómo se evalúa cuando cambia y qué preparación necesitan quienes lo ponen en funcionamiento. Teo ha descrito la seguridad aérea como un enfoque de múltiples capas y ha señalado que Singapur debe aprender rápido porque todavía no existe un manual definitivo para la seguridad de la IA. 5

Por eso, la propuesta inmediata es desarrollar protecciones al mismo tiempo que se extiende el uso de la IA, mientras continúan la investigación y las pruebas. Entre las iniciativas singapurenses figuran AI Verify, orientada a fomentar pruebas responsables y transparencia, y el Instituto de Seguridad de la IA de Singapur. Teo también ha presentado un programa para acreditar a evaluadores independientes, de modo que las organizaciones que utilizan IA tengan más garantías sobre quién examina sus sistemas. Son pasos para reforzar la evaluación, no una demostración de que todos los riesgos estén resueltos. 1222

La cooperación internacional forma parte de ese trabajo. Singapur acogió el Intercambio Científico Internacional sobre Seguridad de la IA, contribuyó al Consenso de Singapur sobre prioridades mundiales de investigación en seguridad de la IA y participa en esfuerzos conjuntos de evaluación. Nada de ello equivale, por ahora, a un regulador internacional vinculante como los que evoca la analogía aeronáutica. 181

¿Y qué pasa con las peticiones de frenar la IA?

El debate transcurre entre advertencias sobre posibles pérdidas de control humano, ciberataques y bioterrorismo. El 12 de septiembre, el director ejecutivo de Anthropic, Dario Amodei, pidió moderar el ritmo de mejora de los modelos más avanzados para dar tiempo a las medidas de seguridad y a la verificación independiente. Su advertencia sobre una posible alteración de internet causada por agentes de IA era una previsión, no un hecho consumado. 131011

Los enfoques no son idénticos: Teo pone el acento en reforzar las protecciones mientras crece el uso; Amodei propone, además, ganar tiempo antes de que avancen más las capacidades de los modelos de frontera. Ambos plantean la misma pregunta de fondo: ¿puede la seguridad seguir el ritmo de una tecnología en la que se pide confiar cada vez más? 1311