Singapour prépare un registre et des garde-fous pour encadrer l’IA de 150 000 agents publics

Singapour aborde l’IA dans le secteur public comme un problème d’architecture et de gouvernance, pas seulement comme une question de choix de modèle. L’objectif est de donner accès à des assistants et à des agents capables d’accélérer le travail administratif, tout en maintenant un contrôle institutionnel sur leurs propriétaires, leurs permissions, leurs données et leurs actions. GovTech, l’agence gouvernementale chargée de la transformation numérique, prépare ainsi un AI Assistant Desk accompagné d’un registre d’agents IA pour environ 150 000 agents publics.

Le dispositif est encore en développement et fait l’objet d’un pilote auprès d’un groupe restreint d’agents. Une mise à disposition plus large est prévue plus tard en 2026. L’enjeu dépasse donc le simple lancement d’un nouveau chatbot : il s’agit de créer une couche commune de fonctionnement et de responsabilité pour l’IA au sein de l’administration.

Un registre pour savoir qui contrôle quoi

Le registre doit notamment indiquer qui est responsable de chaque agent IA, ce qu’il est autorisé à faire et comment il est utilisé. Les administrations pourront ainsi relier un système automatisé à un responsable identifié et examiner son activité dans le temps.

Cette traçabilité est particulièrement importante parce qu’un agent IA ne se contente pas nécessairement de produire du texte. Selon ses permissions et ses connexions à d’autres outils, il peut prendre des décisions, appeler des services ou exécuter des tâches à la vitesse d’une machine. Le registre fonctionnerait donc comme un inventaire et un mécanisme de responsabilisation pour des « collaborateurs numériques », plutôt que comme un simple catalogue de logiciels.

GovTech présente l’AI Assistant Desk comme un environnement sécurisé d’assistants numériques pour les agents publics. Les usages envisagés couvrent notamment la rédaction de rapports, la gestion des agendas, le codage, la recherche et d’autres tâches courantes.

Des garde-fous techniques plutôt qu’une confiance aveugle dans le modèle

Le principe retenu consiste à faire respecter la sécurité par l’ensemble du système, et pas uniquement par les protections intégrées au modèle d’IA. Les contrôles évoqués comprennent notamment :

• des règles configurables selon l’administration ou le cas d’usage ;
• une sélection d’outils d’IA approuvés ;
• des restrictions sur certaines actions, comme supprimer des fichiers ou envoyer des courriels à l’extérieur ;
• une limitation du nombre ou du périmètre des destinataires afin de réduire les risques de diffusion incontrôlée et de spam ;
• des contrôles automatisés des invites et des réponses pour repérer le langage offensant et d’autres problèmes de conformité.

Cette approche reprend le principe du moindre privilège : un agent ne devrait disposer que des accès et des possibilités d’action nécessaires à la mission qui lui est confiée. C’est un point crucial lorsque plusieurs modèles sont utilisés ou que des agents sont connectés à des systèmes gouvernementaux contenant des données sensibles.

Une couche de sécurité conçue pour résister aux changements de modèles

La plateforme AI Guardian de GovTech ajoute une couche distincte de gouvernance et de contrôle aux applications d’IA. Elle repose sur deux composants aux fonctions complémentaires : Litmus évalue les risques de sécurité et de sûreté avant le déploiement grâce à des tests adversariaux, tandis que Sentinel assure en temps réel la modération des contenus et le filtrage des réponses une fois l’application en production.

Séparer ces fonctions du modèle sous-jacent peut limiter la dépendance à un fournisseur donné. GovTech indique également que l’architecture de sécurité de l’AI Assistant Desk doit conserver ses protections lorsque des outils d’IA tiers sont ajoutés ou remplacés.

La distinction est essentielle : les modèles peuvent évoluer, mais les exigences publiques en matière de protection des données, d’actions autorisées, de suivi et de sûreté des réponses doivent rester stables. Le cadre de GovTech pour une IA responsable place notamment au cœur de cette démarche la sûreté, la robustesse, la sécurité et la confidentialité, ainsi que l’explicabilité et la transparence.

Former les agents publics autant que déployer des outils

La stratégie singapourienne ne se limite pas aux agents autonomes. L’assistant Pair aide déjà les agents publics à rédiger, effectuer des recherches, résumer et analyser des documents sur des appareils professionnels. Il est également autorisé à traiter certaines données gouvernementales sensibles que les chatbots commerciaux ne peuvent pas prendre en charge.

GovTech développe par ailleurs des outils d’aide au développement logiciel fondés sur l’IA et des approches low-code, afin que les équipes techniques et les agents publics puissent prototyper ou automatiser plus rapidement certains processus. Des projets antérieurs évoquaient déjà des assistants de codage, le développement logiciel assisté par l’IA et des outils destinés à faire passer les prototypes dans des environnements plus sûrs.

La formation constitue une autre brique de cette infrastructure. GovTech met à disposition des ressources d’apprentissage sur les données et l’IA pour les agents publics. À l’échelle nationale, des programmes doivent aussi renforcer les compétences de professionnels de la technologie appelés à automatiser le codage et à concevoir des systèmes agentiques.

L’objectif pratique est de développer une capacité interne durable : les agents doivent savoir quand l’IA est pertinente, les équipes techniques doivent être capables d’évaluer et de sécuriser leurs créations, et les administrations doivent pouvoir s’appuyer sur des plateformes communes plutôt que sur une juxtaposition d’expérimentations isolées.

Des projets concrets montrent pourquoi l’évaluation est indispensable

Le projet LangBuddy illustre l’importance d’évaluer une application selon sa finalité réelle. Ce chatbot vocal est conçu pour aider des élèves à pratiquer leur langue maternelle à travers des conversations.

Pour un tel outil, une évaluation sérieuse ne peut pas se limiter à vérifier si le chatbot produit des réponses fluides. Les travaux de GovTech examinent aussi la sécurité, le risque d’hallucination et le respect des règles pédagogiques prévues.

Le principe vaut pour l’ensemble des services publics : il faut vérifier qu’un système accomplit réellement la tâche qui lui est assignée, respecte ses contraintes et se comporte de manière acceptable dans des interactions réalistes. Une réponse convaincante n’est pas nécessairement une réponse correcte ou utile.

La cybersécurité est à la fois un prérequis et un terrain d’application

La même philosophie apparaît dans les activités de cybersécurité de GovTech. L’agence fait état de capacités couvrant la conception sécurisée des systèmes, les exercices de red team, les tests d’intrusion, la divulgation coordonnée de vulnérabilités et les fonctions de blue team chargées de détecter et de traiter les menaces.

GovTech teste également l’emploi de l’IA pour augmenter les tests d’intrusion et automatiser le tri initial des alertes dans les centres opérationnels de sécurité. L’IA intervient ainsi des deux côtés du dispositif : pour aider à repérer les faiblesses et pour permettre aux défenseurs de hiérarchiser les incidents.

Certaines publications évoquent plus de 2 000 systèmes numériques gouvernementaux dans le contexte de la montée en puissance des tests de sécurité. Les éléments disponibles confirment l’orientation générale — red team, tests d’intrusion et opérations de sécurité assistées par l’IA — mais ne permettent pas d’affirmer que des tests continus par IA sont déjà réalisés sur chacun de ces systèmes.

Trois objectifs derrière le déploiement

Pris ensemble, ces programmes servent trois ambitions liées :

1. Améliorer les services publics. Les assistants et les agents peuvent prendre en charge la rédaction, l’analyse, le codage et certaines tâches répétitives, afin de laisser davantage de temps aux agents pour les dossiers complexes et les missions en contact avec la population.
2. Renforcer les compétences technologiques internes. Des plateformes communes, des outils d’évaluation, des couches de sécurité et des formations doivent aider Singapour à conserver son savoir-faire opérationnel, plutôt que de dépendre entièrement d’un fournisseur de modèles ou d’un produit commercial.
3. Préserver la confiance et la sécurité des systèmes nationaux. Registres, permissions, journaux d’activité, tests de sûreté et défense informatique créent un cadre de supervision à mesure que l’IA accède à davantage de données et de tâches gouvernementales.

La leçon centrale est claire : déployer l’IA à grande échelle en toute sécurité dépend autant de l’architecture que du modèle lui-même. Singapour cherche à rendre ces outils largement accessibles tout en gardant visibles la responsabilité, les permissions, les tests et le suivi des activités — les éléments qui permettent aux institutions publiques de garder la main.