AI TAP : comment Singapour veut certifier les entreprises qui testent la sécurité de l’IA

L’annonce officielle a été faite par la ministre du Développement numérique et de l’Information, Josephine Teo, lors d’un événement international consacré à la sécurité de l’IA en mai 2026.

Principaux éléments du calendrier :

• Organisation responsable : AI Verify Foundation
• Déploiement prévu : deuxième semestre 2026
• Ouverture des candidatures : vers le troisième trimestre 2026

Pourquoi Singapour crée ce programme

L’objectif principal d’AI TAP est de renforcer la confiance dans les services de test de l’IA.

De plus en plus d’entreprises font appel à des sociétés spécialisées pour examiner leurs modèles d’IA — notamment via des exercices de red‑teaming, où les testeurs tentent volontairement de contourner les protections d’un système.

Le problème : la qualité de ces services peut varier fortement d’un prestataire à l’autre.

AI TAP cherche donc à instaurer une norme d’accréditation claire pour les entreprises qui proposent ce type d’audit technique.

Ce programme s’inscrit dans une stratégie plus large de Singapour visant à construire un écosystème d’IA fiable, conciliant innovation technologique et responsabilité.

Plusieurs initiatives complètent cet objectif :

• AI Verify, un cadre d’évaluation permettant aux entreprises de vérifier si leurs systèmes respectent des principes internationaux de gouvernance de l’IA.
• Le Global AI Assurance Pilot et Sandbox, qui mettent en relation des organisations utilisant l’IA avec des spécialistes des tests pour expérimenter des méthodes d’évaluation concrètes.

Ces projets visent à définir des normes communes pour un déploiement responsable de l’IA.

Comment AI TAP évaluera les entreprises candidates

Les entreprises souhaitant obtenir l’accréditation devront passer deux types d’évaluations principales.

1) Évaluation des capacités techniques

Les sociétés devront démontrer que leurs méthodes de test suivent des lignes directrices reconnues pour l’évaluation des systèmes d’IA.

Cela inclut notamment :

• la sécurité des applications basées sur les grands modèles de langage (LLM)
• les tests de robustesse et de fiabilité
• la recherche de vulnérabilités ou de possibilités d’exploitation

Les candidats devront également prouver qu’ils disposent de méthodologies structurées et de jeux de données adaptés pour tester les systèmes d’IA.

2) Évaluation organisationnelle

Au‑delà de la technique, le programme examinera aussi la solidité de l’entreprise elle‑même.

Les critères peuvent inclure :

• la réputation et l’expérience de l’entreprise
• ses capacités opérationnelles et les compétences de ses équipes
• sa stabilité financière
• la cohérence entre les services annoncés et les capacités réelles

Cette double évaluation vise à garantir que les testeurs accrédités soient à la fois compétents sur le plan technique et fiables sur le plan professionnel.

Les principaux risques que les testeurs devront analyser

AI TAP ne publie pas encore de liste unique de tests obligatoires. Mais les travaux d’assurance IA menés à Singapour mettent déjà en évidence plusieurs catégories de risques fréquemment analysées.

Parmi elles :

• Vulnérabilités de sécurité, y compris les tentatives de contournement des garde‑fous
• Production de contenus dangereux ou inappropriés
• Fuites de données, notamment dans les systèmes de génération augmentée par récupération (RAG)
• Failles multilingues, lorsque les protections fonctionnent dans une langue mais échouent dans une autre
• Problèmes d’exactitude ou d’hallucinations dans les réponses générées

Des exercices réalisés dans le cadre des programmes d’assurance IA ont par exemple montré que certains garde‑fous validés en anglais pouvaient échouer dans d’autres langues. Ils ont aussi révélé que certaines architectures pouvaient augmenter le risque de fuite d’informations sensibles.

Les méthodes utilisées pour tester les systèmes d’IA

Les entreprises spécialisées combinent généralement évaluation automatisée et analyse humaine.

Parmi les techniques utilisées dans les projets d’assurance IA à Singapour :

• Adversarial prompting et red‑teaming, pour tenter de contourner les protections d’un système
• Génération de jeux de données synthétiques, afin de créer des cas limites ou rares
• Benchmarks de précision, comme l’exactitude de classification ou la pertinence de recherche
• Évaluations humaines (human‑in‑the‑loop) pour juger la qualité des réponses
• Approches “LLM‑as‑judge”, où des modèles d’IA évaluent eux‑mêmes des sorties à grande échelle

Ces techniques permettent de tester à la fois les performances des systèmes d’IA et la robustesse de leurs mécanismes de sécurité.

Un possible impact sur l’écosystème mondial de l’IA

En certifiant les testeurs eux‑mêmes, AI TAP tente de résoudre un problème grandissant : la crédibilité des évaluations de sécurité de l’IA.

Si le programme fonctionne comme prévu, il pourrait :

• renforcer la confiance des entreprises qui externalisent leurs audits d’IA
• clarifier ce qui constitue un test de sécurité réellement fiable
• faciliter la comparaison des résultats entre secteurs et juridictions
• encourager la collaboration entre développeurs d’IA et auditeurs spécialisés

Étant donné qu’il s’agit du premier système d’accréditation de ce type en Asie, AI TAP pourrait aussi influencer la manière dont d’autres pays organisent leurs propres systèmes d’assurance et de certification pour l’intelligence artificielle.

Ce qui reste encore inconnu

Malgré les grandes lignes du programme, plusieurs aspects opérationnels n’ont pas encore été détaillés publiquement :

• le système précis de notation pour l’accréditation
• les protocoles de test obligatoires
• l’éventuelle existence de standards spécifiques par secteur (santé, finance, etc.)

Ces éléments devraient être clarifiés lorsque les candidatures seront ouvertes et que les premières entreprises commenceront à être certifiées.

Une nouvelle étape dans la gouvernance de l’IA

À mesure que les systèmes d’intelligence artificielle deviennent essentiels pour les entreprises et les administrations, la capacité à tester leur sécurité et leur fiabilité devient critique.

L’approche de Singapour consiste à bâtir un réseau de testeurs indépendants et certifiés — une couche de confiance entre les développeurs d’IA et les organisations qui déploient ces technologies.

Si l’initiative réussit, des programmes comme AI TAP pourraient devenir un pilier central de la gouvernance mondiale de l’intelligence artificielle.