Sécurité de l’IA : comment bâtir des règles mondiales vérifiables

Un régime mondial de sécurité de l’intelligence artificielle (IA) ne sera crédible que si les garanties annoncées peuvent être vérifiées par des tiers — et si une autorité peut intervenir lorsqu’elles ne tiennent pas. Josephine Teo, ministre singapourienne du Développement numérique et de l’Information, propose de s’inspirer de l’aviation : la confiance dans ce secteur repose sur plusieurs couches de protection, pas sur la seule parole des constructeurs. Elle appelle à développer ces garde-fous à mesure que l’IA se diffuse. 36

Ce que l’aviation enseigne vraiment

Les règles aériennes internationales ne sont pas nées d’un seul traité. Des lois nationales et des accords bilatéraux ont précédé la convention de Paris de 1919. La convention de Chicago de 1944 a ensuite établi le cadre qui a conduit à l’entrée en fonction, en 1947, de l’Organisation de l’aviation civile internationale (OACI). 313935 Pour l’IA, la leçon n’est pas de copier la réglementation aérienne, mais de commencer par des accords praticables et de les renforcer à partir de l’expérience acquise.

Un organisme international pourrait définir des exigences minimales, accréditer des évaluateurs et comparer les données sur les incidents. Les autorités nationales conserveraient le pouvoir d’inspecter, d’imposer des corrections, de restreindre un déploiement et de sanctionner les manquements. Une certification internationale ne remplacerait donc pas le contrôle sur le terrain.

Ce contrôle devrait durer toute la vie d’un système : essais avant sa mise en service, surveillance en fonctionnement, nouvelle évaluation après une modification importante, puis possibilité de revenir à une version antérieure ou de retirer le système. Une autorisation porterait sur une version et un usage précis, non sur tous ses usages futurs.

Remplacer les promesses par des preuves contrôlables

Un label ou un bon score à un test public ne suffit pas. Pour vérifier un système à haut risque, un évaluateur accrédité devrait pouvoir examiner, dans un environnement sécurisé, le modèle concerné, sa configuration de déploiement, sa documentation et les traces de défaillances importantes. Ses méthodes et conclusions devraient être assez détaillées pour être contestées par un autre spécialiste qualifié, sans exposer inutilement les données personnelles, les secrets commerciaux ou les informations sensibles pour la sécurité.

Le développeur pourrait devoir présenter un dossier de sécurité : usages prévus, tests effectués, protections démontrées, risques résiduels et procédure de réponse aux incidents. Si les preuves sont insuffisantes, le régulateur devrait pouvoir demander des corrections ou limiter le déploiement. Il s’agirait de démontrer le respect d’exigences définies, pas de promettre qu’aucun dommage ne surviendra jamais.

L’indépendance dépend aussi du financement. Les grands développeurs pourraient contribuer à un fonds mutualisé ou administré par une autorité, plutôt que choisir et rémunérer directement les évaluateurs chargés de les juger. Les enquêtes sur les défaillances graves et les incidents évités de justesse devraient favoriser l’apprentissage, avec des dispositifs de signalement protégés — sans offrir d’impunité en cas de dissimulation ou de faute.

Singapour, un lieu possible de coopération — pas un arbitre désigné d’avance

Singapour dispose déjà d’outils sur lesquels s’appuyer, notamment AI Verify, un outil de test, et son institut consacré à la sécurité de l’IA. Teo défend la construction de garanties parallèlement à l’adoption de la technologie. 13 La cité-État pourrait accueillir des évaluations conjointes ou des échanges techniques confidentiels au sein d’un réseau de laboratoires accrédités.

Mais héberger un dispositif ne garantirait pas la confiance des États-Unis et de la Chine. Celle-ci dépendrait de règles de gouvernance transparentes, d’un accès sécurisé, de voies de recours indépendantes et de leur participation effective. Répartir les capacités de test entre plusieurs pays éviterait aussi de rendre un seul centre incontournable.

Avancer sans attendre un accord sur le ralentissement de l’IA

Les désaccords restent profonds. Selon Reuters, Dario Amodei, Sam Altman et Elon Musk ont appelé à un ralentissement coordonné, tandis que Mark Zuckerberg privilégie des protections guidées par le marché et que Jensen Huang conteste la nécessité de nouvelles réglementations. 4748 La Chine a rejeté les appels au ralentissement. Donald Trump a déclaré ne pas attendre d’avancée sur les garde-fous de l’IA lors de son sommet du 24 septembre avec Xi Jinping ; les attentes d’une percée majeure y étaient faibles. 585049

Un accord général sur le rythme de développement n’est toutefois pas indispensable pour traiter certains dangers communs. Des spécialistes américains et chinois de la sécurité ont proposé des lignes rouges concernant les systèmes nucléaires, le maintien d’un contrôle humain sur les cyberattaques aux conséquences majeures et une ligne directe en cas d’incident impliquant une IA autonome. 20 Des contacts d’urgence, des définitions communes des incidents graves et des échanges techniques réciproques offriraient des premiers objectifs plus faciles à vérifier. Les autres pays devraient aussi participer à l’élaboration des normes et accéder aux capacités d’évaluation.

La maîtrise des armements fournit ici une méthode : négocier d’abord des engagements réciproques suffisamment précis pour être contrôlés. La supervision financière en suggère une autre : concentrer les obligations les plus lourdes sur les usages dont une défaillance aurait les conséquences les plus graves. Cela pourrait inclure des évaluations indépendantes, des plans de reprise et la déclaration rapide des défaillances graves, fuites de données importantes, piratages ou vols de modèles. Les petites entreprises offrant des services peu risqués pourraient bénéficier d’outils de test partagés et de démarches simplifiées ; leur taille ne devrait toutefois pas dispenser un système dangereux de contrôles rigoureux.

Un traité et une institution permanente d’ici 2030 constitueraient un objectif politique ambitieux, pas une prévision. Le premier test de crédibilité est plus proche : les États peuvent-ils s’accorder sur ce qu’il faut déclarer, sur l’indépendance de ceux qui vérifient et sur les mesures à prendre lorsque les preuves de sécurité ne sont pas au rendez-vous ?