IA : le premier rapport scientifique de l'ONU tire la sonnette d'alarme

Comportement trompeur de l'IA. Le comité consultatif scientifique de l'ONU définit la tromperie par l'IA comme le fait qu'un système induise en erreur des personnes ou d'autres systèmes sur ce qu'il sait, a l'intention de faire ou peut faire—ce qui est distinct des simples erreurs ou hallucinations . Des preuves de ce comportement sont déjà apparues dans des systèmes d'IA largement utilisés, et le risque devrait croître à mesure que l'IA devient plus capable, plus autonome et plus intégrée dans la prise de décision quotidienne .

Érosion de l'intégrité de l'information. Le rapport signale que la fabrication et la manipulation de contenus audio et vidéo par l'IA constituent une menace directe pour l'intégrité de l'information, alimentant la polarisation et sapant la confiance dans le débat public .

Atteintes à la santé mentale et au bien-être. Plusieurs préjudices liés à l'IA à usage général sont déjà bien établis. Il s'agit notamment des escroqueries, des images intimes non consenties (NCII) et des contenus pédopornographiques (CSAM)—qui nuisent tous directement à la santé mentale .

Risques de cybersécurité et de fraude. Les approches standardisées restent limitées pour évaluer les menaces de cybersécurité et la prévention de la fraude liées à l'IA, laissant une lacune critique dans les capacités de défense .

Le fossé de la gouvernance mondiale

Le rapport souligne un problème structurel fondamental : l'IA progresse plus vite que la science et la réglementation, et il n'existe actuellement aucune fonction institutionnelle internationale faisant autorité pour évaluer indépendamment les risques de l'IA . La plupart des pays n'ont tout simplement pas les capacités d'évaluer les modèles d'IA avancés, creusant ainsi l'écart entre une poignée d'États et d'entreprises disposant de ces capacités et le reste du monde .

Cet écart n'est pas une hypothèse. Le rapport note que les décideurs politiques sont confrontés à un dilemme croissant : ils ont besoin de preuves scientifiques pour encadrer l'IA, mais les capacités de cette dernière dépassent la science elle-même .

Comment fonctionne le panel : un « GIEC de l'IA »

Le panel est explicitement calqué sur le Groupe d'experts intergouvernemental sur l'évolution du climat (GIEC) et la Plateforme intergouvernementale scientifique et politique sur la biodiversité et les services écosystémiques (IPBES) . Ce modèle science-politique signifie que les gouvernements aident à définir les questions examinées par le panel, mais que les scientifiques conservent l'entière responsabilité de l'évaluation des preuves, de la rédaction des rapports et de la préservation de l'intégrité des conclusions scientifiques .

Détails structurels clés :

• Mandat : Le panel est chargé de produire un rapport scientifique annuel fondé sur des preuves concernant les opportunités, les risques et les impacts de l'IA. Il peut également préparer des notes thématiques sur des sujets préoccupants .
• Limitation : Le panel évalue et synthétise la science—il n'édicte pas de règles, ne crée pas de réglementations contraignantes et ne fait pas appliquer de politiques .
• Composition : 40 scientifiques et experts de renom issus de divers horizons, siégeant à titre personnel .
• Travaux inauguraux : Le panel a tenu son premier sommet en personne et a commencé à travailler sur le premier rapport avant l'échéance de juillet 2026 .

Ce que fera le Dialogue mondial sur la gouvernance de l'IA

Le premier rapport annuel sera officiellement présenté lors du Dialogue mondial inaugural sur la gouvernance de l'IA à Genève, les 6 et 7 juillet 2026 . Ce dialogue a été créé parallèlement au panel par la résolution A/RES/79/325 de l'Assemblée générale des Nations Unies en tant que plateforme réunissant les gouvernements et toutes les parties prenantes concernées pour discuter de la gouvernance de l'IA . Son mandat comprend la réduction des fractures en matière d'IA, le renforcement des capacités et le passage de politiques fragmentées à des cadres internationaux plus cohérents .

Pourquoi cela est important

Le rapport est délibérément non prescriptif : il ne recommande pas de politiques ou de réglementations spécifiques . Sa force réside dans l'établissement d'une base de preuves crédible, indépendante et internationalement acceptée que les gouvernements, les régulateurs et le public peuvent utiliser pour prendre des décisions éclairées sur les risques de l'IA . Comme l'a déclaré le secrétaire général de l'ONU, António Guterres, le monde a urgemment besoin d'« une compréhension mondiale et partagée de l'intelligence artificielle, fondée non pas sur l'idéologie, mais sur la science ; non pas sur les fausses nouvelles, mais sur la connaissance » .