Face aux alertes sur l’IA, Singapour mise sur les audits et le contrôle des agents

Que faire lorsqu’un chercheur avertit que l’intelligence artificielle pourrait présenter un risque catastrophique ? Pour des acteurs du secteur à Singapour, la réponse n’est ni de balayer l’alerte ni d’arrêter indistinctement tous les projets : il faut rendre les systèmes vérifiables et limiter ce qu’ils sont autorisés à faire. 732

Une alerte, pas une probabilité établie

En septembre 2026, Jacob Coxon a quitté Anthropic après avoir travaillé aussi chez OpenAI. Il a accusé les deux entreprises de se précipiter vers une IA capable de s’améliorer elle-même sans agir de façon responsable. Evan Hubinger, chercheur chez Anthropic, a dit partager son inquiétude et estimé personnellement à plus de 10 % le risque que l’IA provoque l’extinction humaine dans les dix prochaines années. Ce chiffre exprime son jugement : ce n’est ni une probabilité mesurée ni la preuve qu’un tel événement est imminent. 34

Le directeur général d’Anthropic, Dario Amodei, a appelé le 12 septembre à ralentir le développement de l’IA. Sa proposition prévoit aussi de donner accès à des évaluateurs extérieurs pour vérifier les pratiques et les communications relatives à la sécurité, ainsi que signaler les incidents. La question devient alors plus concrète : que peuvent réellement contrôler des tiers ? 1332

Auditer ce qui existe, sans promettre le risque zéro

L’outil singapourien AI Verify, lancé en 2022, permet d’évaluer notamment l’équité, la robustesse et la capacité d’explication des résultats d’une IA. Un programme d’accréditation des testeurs d’IA vise également à renforcer les compétences en matière d’évaluation. Ces dispositifs aident à examiner les systèmes actuels ; ils ne garantissent pas la sécurité de tous ceux qui pourraient être développés demain. 1933

Un audit indépendant suppose davantage que l’affirmation d’un fournisseur selon laquelle son modèle a réussi ses tests internes. Les organisations ont besoin d’informations et de moyens de contrôle avant de brancher une IA sur leurs données et leurs processus. Même l’accès aux paramètres d’un modèle ne révèle pas, à lui seul, tous les choix d’entraînement, les défaillances ou les protections mises en place. 3234

Cette approche n’exclut pas de suspendre une activité précise : un expert cité dans le débat estime qu’un développeur devrait le faire s’il ne peut pas contenir correctement son système ou expliquer comment il maîtrise les risques graves. Ce n’est pas la même chose qu’un moratoire appliqué à tous les usages. 32

Avant de confier des tâches aux agents, fixer leurs limites

L’enjeu est immédiat pour les agents d’IA, capables d’utiliser des outils et d’agir dans des processus de travail. En janvier 2026, l’Infocomm Media Development Authority (IMDA), l’autorité singapourienne chargée du développement des médias et du numérique, a lancé un cadre de gouvernance qui recommande d’évaluer les risques en amont et de limiter l’autonomie des agents ainsi que leur accès aux outils et aux données. Sa version actualisée précise le principe du moindre privilège : n’accorder que les accès nécessaires à la tâche. Ce cadre est une recommandation d’application volontaire, pas une interdiction générale de déployer des agents. 504852

Pour une organisation, cela revient notamment à désigner un responsable humain, restreindre les permissions, suivre le fonctionnement de l’agent et rendre ses actions traçables et réversibles lorsque c’est possible. 34 La ministre singapourienne Josephine Teo a comparé le rôle des garanties et des normes de sécurité pour instaurer la confiance dans l’IA à celui des pratiques de l’aviation civile. 17

La ligne directrice est celle d’une responsabilité malgré l’incertitude : tester ce qui peut l’être, ouvrir les systèmes à un examen indépendant et ne pas accorder de pouvoirs qu’on ne sait pas maîtriser. Cela ne tranche pas le débat sur les risques à long terme, mais fixe des obligations concrètes dès aujourd’hui. 3248