Leur limite vient aussi de ce qui les rend plus faciles à encadrer : ils sont généralement conçus pour une tâche précise. Un modèle de détection de fraude peut attribuer un score à des transactions sans être capable d’interpréter une politique interne, de rédiger un rapport ou de s’adapter souplement à une situation inconnue. Ses performances dépendent également de la qualité des données d’entraînement et de ce que le système a été optimisé pour prédire.
Ces limites soulèvent d’importantes questions éthiques dans le crédit, le recrutement, l’assurance ou la santé. Des données historiques peuvent reproduire des biais sociaux, tandis qu’un système de notation opaque peut rendre une décision difficile à comprendre ou à contester. Une gouvernance sérieuse doit donc prévoir un objectif clairement défini, des tests d’exactitude et d’équité entre les groupes concernés, des protections de la vie privée, des explications et un contrôle humain pour les décisions à fort impact. Les biais, la désinformation et les usages abusifs ne concernent pas uniquement les chatbots : ils font partie des enjeux plus larges des politiques publiques en matière d’IA.
L’IA générative transforme l’expérience utilisateur. La question n’est plus seulement « à quelle catégorie appartient cette donnée ? », mais aussi « crée ou transforme quelque chose à partir de cette consigne ». De grands modèles peuvent produire du texte, des images, de l’audio et du code, avec des usages allant de la rédaction de réponses pour le service client à la traduction, au tutorat, à la synthèse de documents juridiques, à l’assistance logicielle et à la création.
Ces systèmes peuvent réduire le temps et le coût nécessaires pour produire un premier brouillon, offrir une interface conversationnelle à des informations complexes et permettre de travailler avec des contenus dans de nouveaux formats. Ils peuvent aussi augmenter les capacités des professionnels, plutôt que simplement automatiser une décision figée.
Un modèle génératif peut produire une affirmation, une source, une référence juridique, une information médicale ou un morceau de code faux, tout en adoptant un ton assuré. Le NIST parle de confabulation, c’est-à-dire « la production d’un contenu erroné ou faux présenté avec assurance », souvent désignée par le terme d’« hallucination ».
La vérification devient donc indispensable dès que l’exactitude factuelle compte. Parmi les garde-fous utiles figurent la recherche dans des sources fiables, l’ajout de citations, des évaluations structurées, des tests adaptés au domaine et une relecture par une personne qualifiée. Une réponse fluide doit être considérée comme un brouillon ou une prédiction — pas comme la preuve que l’affirmation sous-jacente est correcte.
L’IA générative soulève aussi des questions de protection des données, de propriété intellectuelle, de désinformation et de traçabilité des contenus produits. Les recommandations de la Commission européenne pour la recherche mettent en avant ces risques et rappellent que les personnes restent responsables des travaux qu’elles publient, même lorsque l’IA les a aidées.
L’éducation pose un problème similaire. Si les élèves délèguent régulièrement à une IA la rédaction, le raisonnement et la résolution de problèmes, ils peuvent obtenir un résultat soigné tout en pratiquant moins les compétences qui le sous-tendent. Les recommandations consacrées à l’éducation recensent notamment les contenus inexacts ou biaisés, les contenus nuisibles, les fuites de données, les atteintes à la propriété intellectuelle et les difficultés liées à l’intégrité académique.
Les défaillances peuvent être particulièrement graves dans les conversations sensibles. Un système génératif peut produire des contenus haineux, violents, sexuels ou manipulateurs, ou répondre de manière inadaptée à une personne exprimant des intentions suicidaires. Le NIST classe parmi les risques à traiter les recommandations dangereuses ou violentes, les atteintes à la vie privée et les biais préjudiciables. Dans les contextes à haut risque, l’IA ne doit pas remplacer les soins qualifiés ni les dispositifs humains de protection. Elle doit disposer de mécanismes solides de refus et d’escalade, de contrôles de confidentialité et d’un accès clairement indiqué à une aide humaine immédiate.
L’IA agentique ajoute une boucle d’action autour d’un modèle. Au lieu de répondre une seule fois à une consigne, un agent peut interpréter un objectif, le décomposer en étapes, appeler des outils — navigateur, exécuteur de code, messagerie ou API —, examiner les résultats, modifier son plan et poursuivre la tâche.
Stanford définit l’IA agentique comme un ensemble de systèmes autonomes ou semi-autonomes capables d’interpréter des objectifs, d’ordonner des actions, d’utiliser des outils, de réagir aux retours et de s’adapter pour accomplir une tâche dans des limites définies.
La différence pratique est importante :
Google Jules illustre ce cas d’usage dans le développement logiciel. Google le présente comme un agent de programmation asynchrone qui s’intègre aux dépôts de code, clone une base dans une machine virtuelle cloud et travaille sur des tâches qui pourront ensuite être examinées par un développeur. Les agents open source capables d’utiliser des outils représentent une autre approche, tandis que des produits de recrutement comme Hiring Assistant de LinkedIn montrent comment ces workflows peuvent s’étendre à la recherche de candidats et à l’embauche.
Les agents sont séduisants parce qu’ils peuvent réaliser un travail en plusieurs étapes au lieu de simplement proposer la prochaine action. Un agent de programmation pourrait rechercher un bug, modifier plusieurs fichiers, lancer des tests et préparer une pull request. Un agent de workflow pourrait rassembler des informations, les organiser et préparer des communications à faire approuver.
Planifier ne signifie pas comprendre de manière fiable. Un agent peut mal interpréter une page web, choisir un mauvais plan, suivre une instruction malveillante ou amplifier une petite erreur au fil de nombreuses étapes. Le rapport 2026 de l’AI Index de Stanford indique que les agents sont passés de 12 % à environ 66 % de réussite sur OSWorld, un benchmark de tâches informatiques réelles, mais qu’ils échouent encore dans environ un cas sur trois.
L’hallucination d’un chatbot reste souvent un problème de communication. Mais un agent doté d’identifiants, d’un accès à un navigateur ou d’une autorisation de paiement peut transformer la même erreur en action extérieure. La gouvernance des agents doit donc porter non seulement sur la qualité de leurs réponses, mais aussi sur leurs permissions, la réversibilité des actions et la responsabilité en cas d’incident.
Les risques les plus importants apparaissent lorsqu’un agent peut agir sur des systèmes, de l’argent, des données ou d’autres personnes :
Les contrôles doivent être proportionnés aux capacités du système et aux conséquences d’une défaillance.
Pour l’IA prédictive, les organisations doivent définir la finalité, mesurer l’exactitude et l’équité, protéger les données personnelles et proposer des moyens d’expliquer ou de contester les décisions à fort impact.
Pour l’IA générative, elles doivent vérifier les affirmations importantes, tester les hallucinations et les contenus dangereux, contrôler l’utilisation des données sensibles, traiter les questions de provenance et de propriété intellectuelle, et maintenir la responsabilité de personnes qualifiées pour les décisions juridiques, médicales, financières ou liées à la protection des personnes.
Pour les agents, les contrôles techniques et organisationnels doivent aller plus loin :
L’Infocomm Media Development Authority de Singapour propose cette approche fondée sur le risque dans son Model AI Governance Framework for Agentic AI. Le cadre s’adresse aux organisations qui développent des agents en interne ou déploient des solutions de fournisseurs tiers. Sa leçon centrale consiste à faire progresser l’autonomie par paliers : commencer par une assistance en lecture seule, passer ensuite à des actions peu risquées et réserver les actions irréversibles ou à fort impact à une approbation explicite.
L’évolution de l’IA se comprend mieux comme une pile de capacités qui s’élargit que comme trois époques totalement séparées. Les systèmes traditionnels prédisent et classent. Les systèmes génératifs créent et transforment. Les systèmes agentiques ajoutent la planification, l’utilisation d’outils et l’action.
La gouvernance doit progresser au même rythme. Les contrôles d’exactitude et d’équité restent indispensables, mais ils ne suffisent plus. Les systèmes génératifs exigent une vérification rigoureuse, une traçabilité des contenus et des pratiques de sécurité adaptées. Les agents nécessitent en plus des limites de permission, des points de validation, une surveillance de la sécurité et une responsabilité clairement attribuée.
Plus un système d’IA peut agir seul, plus les organisations doivent définir précisément ce qu’elles l’autorisent à faire.