¿Qué es el programa AI TAP de Singapur y cómo pondrá a prueba a las empresas de IA?

La acreditación, sin embargo, no significa que un sistema concreto de IA sea completamente seguro ni que esté libre de riesgos. Pueden persistir problemas relacionados con el contexto de uso, la integración con otros sistemas o amenazas nuevas. La organización que despliega la IA seguirá siendo responsable de la gobernanza, de aceptar o no los riesgos y de aplicar medidas de mitigación adicionales.

Qué pondrán a prueba los evaluadores

Los proveedores podrán realizar evaluaciones adversariales conocidas como red teaming. En ellas, los especialistas intentan forzar el sistema para descubrir cómo podría fallar o ser manipulado antes de su puesta en producción.

Entre otras técnicas, podrán probar la inyección de instrucciones —introducir órdenes que intentan alterar el comportamiento previsto del modelo— y los jailbreaks, intentos de saltarse las salvaguardas para provocar respuestas prohibidas, inseguras o contrarias a las políticas del sistema.

El alcance de las evaluaciones puede incluir:

• Seguridad y fiabilidad: respuestas inexactas o inventadas, fallos del sistema y generación de contenido dañino o no deseado.
• Equidad: sesgos en la toma de decisiones.
• Privacidad y seguridad informática: filtraciones de datos y vulnerabilidades.
• Resistencia a inyecciones de instrucciones y jailbreaks: un aspecto especialmente relevante en aplicaciones de IA generativa y sistemas agénticos que pueden interactuar con herramientas o fuentes externas.

Qué requisitos deberán cumplir las empresas

Las solicitudes se evaluarán tanto por la capacidad técnica del proveedor como por su solidez organizativa. Los criterios previstos incluyen:

• Competencia técnica: pruebas de que la empresa puede prestar los servicios específicos que declara, tomando como referencia, entre otras guías, el Starter Kit for Testing LLM-Based Applications for Safety and Reliability de la IMDA.
• Gobernanza y trayectoria empresarial: experiencia relevante, buena reputación y compromiso de desarrollar actividad empresarial en Singapur.
• Sostenibilidad financiera: una situación financiera suficiente para operar de forma sostenible.
• Preparación operativa: capacidad y medios adecuados para ofrecer los servicios propuestos.
• Alcance de servicios preciso: los servicios declarados deberán corresponderse con las capacidades que la empresa pueda demostrar.

El Starter Kit de la IMDA es una guía voluntaria para realizar pruebas básicas de seguridad y fiabilidad en aplicaciones basadas en modelos de lenguaje de gran tamaño, o LLM por sus siglas en inglés. Sus cinco áreas de riesgo son:

1. Alucinaciones e inexactitud.
2. Sesgos en la toma de decisiones.
3. Contenido no deseado.
4. Filtración de datos.
5. Vulnerabilidades, incluida la exposición a instrucciones adversariales.

¿Tendrán que pagar los solicitantes?

AI Verify Foundation ha indicado que no cobrará tasas de solicitud ni de acreditación. La medida busca reducir las barreras de entrada y favorecer el crecimiento del mercado de evaluación y garantía de la IA.

La acreditación tendrá una validez de 12 meses. Después, las empresas deberán renovarla y demostrar que mantienen sus competencias, algo especialmente importante a medida que evolucionan las normas técnicas y el panorama de amenazas.

Las compañías que, según la información disponible, han mostrado interés inicial son Advai, AIDX, Ernst & Young, Knovel Engineering, PwC, Resaro y Vulcan.

Qué puede cambiar en el mercado de pruebas de IA

AI TAP busca hacer más coherente y creíble el mercado de evaluación externa. Para las organizaciones que compran estos servicios, un sistema de acreditación puede facilitar la identificación de proveedores competentes, aclarar exactamente qué se ha probado y adaptar la evaluación al caso de uso y al nivel de riesgo de cada implementación.

La información disponible no recoge comentarios concretos de representantes del sector que detallen mejoras específicas en personalización, gobernanza o confianza en la seguridad de la IA. Aun así, el diseño anunciado del programa apunta a esos resultados: definir expectativas comunes sobre la competencia de los evaluadores, exigir pruebas documentadas y ofrecer a quienes despliegan IA una capa adicional de garantía independiente.

En la práctica, AI TAP no sustituirá la responsabilidad de las empresas que utilizan inteligencia artificial. Su función será ayudarles a responder una pregunta cada vez más importante antes de poner un sistema en marcha: ¿quién puede probarlo de manera rigurosa e independiente?