Ralentir l’IA sans bloquer ses usages : ce qu’exigerait un vrai garde-fou

Un ralentissement crédible de l’IA consisterait à encadrer le rythme de développement des systèmes les plus avancés, sans mettre l’IA à l’arrêt dans toute l’économie. Les appels récents de dirigeants du secteur ont remis à l’ordre du jour l’évaluation indépendante et la coordination. Mais pour transformer ces propositions en garanties solides, les engagements volontaires ne suffisent pas : les évaluations doivent être indépendantes, leurs résultats doivent avoir des conséquences et les exigences doivent être proportionnées aux risques.

Singapour dispose déjà de plusieurs outils pour avancer dans cette direction : un cadre de gouvernance de l’IA agentique, les outils de test AI Verify et un programme destiné à reconnaître les organismes tiers capables d’évaluer des systèmes d’IA. Le défi est désormais de relier ces outils à des décisions claires, fondées sur des preuves, concernant les systèmes réellement déployés. 4

Ce que proposent les appels à ralentir l’IA — et ce qu’ils ne garantissent pas

Les propositions récentes portent sur le rythme de développement de l’IA de pointe — les systèmes les plus performants, dont les capacités peuvent progresser plus vite que les mesures de sécurité et les dispositifs de contrôle. Parmi les pistes évoquées figurent un accès régulier d’évaluateurs externes aux entreprises qui développent ces systèmes, une coordination des normes de sécurité et une coopération internationale plus large.

Ces appels témoignent d’un intérêt croissant, mais ne constituent ni une politique déjà établie ni un accord contraignant entre les entreprises d’IA. Le Rapport international sur la sécurité de l’IA indique que la gestion des risques est encore en développement et que la plupart des initiatives des entreprises restent volontaires. La nuance est importante : l’engagement d’une entreprise à tester un modèle ne l’oblige pas, à lui seul, à retarder sa mise en circulation si des risques sérieux subsistent.

Faire de l’évaluation une condition de mise en circulation

Une approche praticable imposerait des exigences plus strictes aux systèmes les plus puissants ou dotés des plus grandes marges d’action, sans instaurer un moratoire général sur les usages courants. Un outil de rédaction à faible impact et un agent autorisé à prendre des décisions lourdes de conséquences ne devraient pas automatiquement être soumis aux mêmes règles. Le cadre singapourien sur l’IA agentique recommande déjà d’évaluer et de circonscrire les risques, ainsi que de prévoir une validation humaine avant les actions importantes ou sensibles. 46

Pour les modèles de pointe et les déploiements à fort impact, les décideurs publics pourraient s’appuyer sur ce principe et prévoir un processus comprenant :

• Une évaluation indépendante avant la mise en circulation : des évaluateurs externes qualifiés auraient un accès sécurisé aux systèmes et aux éléments pertinents afin d’examiner les capacités dangereuses et les risques de détournement prévisibles. Un accès régulier de ce type figure parmi les propositions récentes visant à encadrer le développement de l’IA de pointe ; il ne s’agit pas d’une obligation déjà généralisée.
• Des seuils explicites et des suites concrètes : les autorités devraient établir clairement quels résultats déclenchent des mesures de protection supplémentaires, une limitation de l’accès ou un report. Un échec à l’évaluation devrait entraîner une réponse documentée et, si le niveau de risque le justifie, le report de la mise en circulation — pas simplement un nouvel examen interne. Il s’agit ici de propositions de gouvernance, et non d’exigences prévues par le cadre singapourien actuel. 4
• Des contrôles adaptés à l’usage : pour les agents auxquels sont confiées des permissions importantes, on peut envisager un accès limité, une validation humaine aux étapes décisives, une surveillance et des responsabilités clairement attribuées. Le cadre singapourien recommande de circonscrire les risques et de maintenir une supervision humaine réelle ; les contrôles précis doivent dépendre du système et de son usage. 48
• Une nouvelle évaluation en cas de changement majeur : toute modification importante du modèle, de ses outils ou de son contexte de déploiement devrait être réexaminée, plutôt que de considérer un test antérieur comme une garantie permanente. Cette mesure est proposée pour que l’évaluation reste pertinente à mesure que le système évolue.

Les usages à plus faible risque devraient bénéficier d’un parcours plus simple et plus léger. Une réglementation fondée sur les risques peut laisser aux entreprises la possibilité d’adopter l’IA sans faire d’un résultat positif à un test une preuve de sûreté valable dans tous les contextes. Le règlement européen sur l’IA est un exemple de réglementation qui distingue les usages selon leurs risques.

Des règles publiques, des évaluations indépendantes

Une coordination internationale pourrait rendre les évaluations plus comparables et limiter la tentation de choisir le cadre de contrôle le moins exigeant. Les gouvernements peuvent chercher à harmoniser les méthodes de test, le partage d’informations sur les incidents et les exigences minimales pour les systèmes les plus risqués. Des évaluateurs indépendants pourraient ensuite confronter les systèmes à ces critères communs. Les appels récents à ralentir l’IA préconisent eux aussi une coordination entre entreprises et entre pays.

La répartition des rôles est essentielle. Les autorités publiques devraient fixer des seuils contraignants et déterminer les conséquences en cas de dépassement. Les entreprises peuvent apporter leur expertise technique, mais ne devraient pas être seules à décider si leurs propres systèmes satisfont aux exigences. Les organismes d’évaluation indépendants, eux, devraient rendre leurs méthodes transparentes et déclarer leurs éventuels conflits d’intérêts. Ce sont des principes de conception pour un dispositif de contrôle proposé, et non des caractéristiques déjà garanties par les appels du secteur.

Sur quoi Singapour peut s’appuyer

Le Model AI Governance Framework for Agentic AI de Singapour fournit des recommandations aux organisations qui déploient des agents, notamment en matière d’évaluation des risques, de responsabilité humaine et de contrôles. Il s’agit d’un guide pour un déploiement responsable, pas, à lui seul, d’une autorisation réglementaire préalable à la mise en circulation. 468

AI Verify met à disposition des outils de test, tandis que l’AI Tester Accreditation Programme reconnaît des prestataires tiers dont les compétences techniques et la capacité opérationnelle ont été évaluées. Ces initiatives pourraient favoriser des évaluations plus cohérentes dans les secteurs des affaires et de la finance. Singapour pourrait aussi encourager l’adoption de référentiels communs d’assurance et de contrats précisant ce que les fournisseurs de modèles, les intégrateurs, les organisations qui déploient les systèmes et les testeurs doivent chacun démontrer. Ce sont des pistes possibles, et non des politiques déjà établies par les cadres cités.

Un objectif utile serait la reconnaissance transfrontalière des méthodes et des résultats de test, plutôt que l’affirmation qu’un certificat national garantit la sécurité de tout système, quel que soit son usage. Les cadres et les outils de test peuvent structurer les preuves ; il revient toujours aux autorités et aux organisations de vérifier qu’elles correspondent au contexte réel de déploiement et aux risques en jeu.

Évaluer ensemble la sécurité de l’IA, celle des logiciels et la cybersécurité

Examiner les réponses d’un modèle ne suffit pas à évaluer un agent d’IA. Une analyse complète devrait aussi porter sur le logiciel qui l’entoure et sur la sécurité des outils et des permissions auxquels il peut accéder. Il s’agit de questions liées, mais distinctes : quel comportement nuisible l’IA peut-elle produire ? Comment l’application complète réagit-elle en cas de panne ou de changement ? Un attaquant peut-il compromettre le système, le manipuler ou le détourner ?

Cette évaluation conjointe est une extension recommandée des pratiques d’assurance ; cela ne signifie pas que tous les outils existants couvrent déjà ces trois aspects. La documentation de la boîte à outils AI Verify présente des tests techniques pour des systèmes d’apprentissage automatique classiques, notamment sur l’équité, l’explicabilité et la robustesse. Il faut donc préciser quels tests de bout en bout sont nécessaires pour les déploiements agentiques, plutôt que de supposer qu’un résultat obtenu au niveau du modèle certifie le système complet.

Le véritable test d’un ralentissement

Un ralentissement est significatif si des évaluations indépendantes peuvent réellement changer la suite des choses : une mise en circulation à haut risque peut être retardée, limitée ou corrigée lorsque les garanties sont insuffisantes, tandis que les usages ordinaires et moins risqués conservent un parcours proportionné. Les cadres et programmes de test de Singapour offrent une base pour construire ce type de dispositif, mais les seuils de mise en circulation, les mécanismes d’application et la portée des évaluations devraient être explicités.