AI TAP: el nuevo programa de Singapur para acreditar a los evaluadores de seguridad en inteligencia artificial

Quién lo impulsa y cuándo empezará

El programa será lanzado por la AI Verify Foundation, una organización sin fines de lucro creada para promover estándares y herramientas de evaluación de IA confiable. Esta fundación es una filial de la Infocomm Media Development Authority (IMDA), el organismo tecnológico del gobierno de Singapur.

La iniciativa fue anunciada por la ministra de Desarrollo Digital e Información de Singapur, Josephine Teo, durante un evento internacional sobre seguridad en IA en mayo de 2026.

Calendario previsto:

• Organización responsable: AI Verify Foundation
• Inicio del programa: segunda mitad de 2026
• Apertura de solicitudes de acreditación: alrededor del tercer trimestre de 2026

Por qué Singapur creó AI TAP

El objetivo central del programa es aumentar la confianza en los servicios de pruebas de seguridad de IA.

Muchas organizaciones ya contratan empresas especializadas para examinar sus modelos con técnicas como red teaming (ataques controlados para encontrar fallos). El problema es que la calidad y la credibilidad de estos proveedores puede variar mucho.

AI TAP busca resolverlo estableciendo un estándar formal de acreditación para las empresas que ofrecen este tipo de pruebas.

El programa también encaja dentro de la estrategia más amplia de Singapur para construir un ecosistema de inteligencia artificial confiable, que combine innovación tecnológica con responsabilidad y seguridad.

Entre las iniciativas relacionadas se encuentran:

• AI Verify, un marco de pruebas que permite evaluar sistemas de IA según 11 principios de gobernanza reconocidos internacionalmente.
• El Global AI Assurance Pilot y su sandbox, que conectan a empresas que usan IA con especialistas en pruebas para desarrollar métodos de evaluación en entornos reales.

Cómo se certificará a las empresas de pruebas de IA

Las compañías que soliciten la acreditación deberán superar dos tipos principales de evaluación.

Evaluación de capacidad técnica

Las organizaciones deberán demostrar que sus métodos siguen directrices reconocidas para probar sistemas de IA. Esto incluye evidencias de que sus servicios se alinean con guías relacionadas con:

• seguridad en aplicaciones basadas en modelos de lenguaje (LLM)
• pruebas de fiabilidad y robustez
• detección de vulnerabilidades y explotación de fallos

También deberán mostrar metodologías estructuradas de evaluación y el uso de conjuntos de datos adecuados para probar modelos de IA.

Evaluación organizativa

Además de la parte técnica, el programa examinará la empresa en sí misma. La revisión puede incluir aspectos como:

• reputación y trayectoria empresarial
• capacidad operativa y experiencia del equipo
• estabilidad financiera
• coherencia entre los servicios anunciados y las capacidades reales

El objetivo es garantizar que los evaluadores acreditados sean competentes técnicamente y confiables como organizaciones.

Qué riesgos de IA suelen analizar los evaluadores

Aunque AI TAP aún no ha publicado una lista universal de pruebas obligatorias, el trabajo previo de aseguramiento de IA en Singapur muestra varios riesgos que suelen examinarse en sistemas de IA.

Entre ellos:

• Vulnerabilidades de seguridad, como intentos de saltarse restricciones o extraer información confidencial
• Fallos de seguridad del contenido, por ejemplo cuando el sistema genera respuestas peligrosas o inapropiadas
• Fugas de datos, especialmente en sistemas que utilizan retrieval‑augmented generation (RAG) conectados a bases de conocimiento internas
• Problemas multilingües, donde los mecanismos de seguridad funcionan en un idioma pero fallan en otro
• Errores de precisión o robustez, como respuestas inventadas o inconsistentes

Experimentos en proyectos de aseguramiento de IA han mostrado, por ejemplo, que algunas barreras de seguridad que funcionan en inglés pueden fallar en otros idiomas, y que ciertos diseños pueden aumentar el riesgo de filtración de información sensible.

Métodos de prueba utilizados en el aseguramiento de IA

Las empresas especializadas suelen combinar herramientas automáticas con revisión humana para evaluar los sistemas.

Entre los métodos habituales:

• Red teaming y prompts adversariales para buscar vulnerabilidades o “jailbreaks”
• Generación de datasets sintéticos para probar escenarios raros o extremos
• Benchmarking de precisión, como pruebas de clasificación o recuperación de información
• Evaluación humana de respuestas generadas por la IA
• Modelos de IA como jueces, donde otros modelos ayudan a evaluar resultados a gran escala

Estas técnicas permiten analizar tanto el rendimiento del sistema como la solidez de sus mecanismos de protección.

Cómo podría influir en la seguridad de la IA a nivel global

Acreditar a los propios evaluadores aborda un problema creciente en la gobernanza de la inteligencia artificial: garantizar que las pruebas de seguridad sean creíbles y comparables.

Si funciona como se espera, AI TAP podría generar varios efectos:

• mayor confianza al contratar empresas externas para auditar sistemas de IA
• expectativas más claras sobre qué significa realizar pruebas de seguridad de forma competente
• resultados de evaluación más comparables entre industrias y países
• mayor colaboración entre desarrolladores de IA y auditores especializados

Al posicionarse como el primer esquema de acreditación de evaluadores de IA en Asia, Singapur también podría influir en cómo otros países estructuran sus propios sistemas de aseguramiento de inteligencia artificial.

Lo que aún no se sabe del programa

Aunque el diseño general del programa ya es público, todavía quedan varios detalles por definirse, como:

• el modelo exacto de puntuación para obtener la acreditación
• protocolos de prueba obligatorios
• posibles estándares específicos por sector (como sanidad o finanzas)

Es probable que estos aspectos se aclaren cuando se abra el proceso de solicitudes y comiencen las primeras evaluaciones.

El panorama general

La verificación de seguridad se está convirtiendo en una pieza esencial para el despliegue de sistemas de inteligencia artificial.

El enfoque de Singapur apuesta por certificar a quienes realizan las pruebas, creando una capa de evaluadores independientes en los que empresas y gobiernos puedan confiar al evaluar nuevas tecnologías de IA.

Si el modelo prospera, programas como AI TAP podrían convertirse en un componente clave del futuro sistema global de gobernanza y seguridad de la inteligencia artificial.