L’évolution de l’IA : de la prédiction à la création, puis à l’action

L’IA traditionnelle recouvre principalement deux approches :

• Les systèmes symboliques ou à base de règles, dans lesquels des humains encodent la logique, les connaissances métier et les procédures de décision.
• Les systèmes d’apprentissage automatique, qui apprennent des relations statistiques à partir de données historiques afin de classer des entrées ou d’estimer des résultats.

Les premiers programmes de jeux ont montré qu’une machine pouvait explorer rapidement de nombreux coups possibles dans un environnement délimité. Ces méthodes, associées ensuite à l’apprentissage statistique, ont été appliquées à des tâches concrètes comme :

• la détection de transactions inhabituelles ou susceptibles de relever de la fraude ;
• l’évaluation du risque de crédit et de défaut ;
• l’estimation de risques médicaux, comme une aggravation de l’état d’un patient ou une réadmission ;
• le classement de produits, de vidéos, de morceaux de musique et de publications dans les systèmes de recommandation ;
• la reconnaissance vocale, la classification de l’intention et l’exécution de scénarios prédéfinis dans des assistants comme Siri.

Ces systèmes sont généralement performants lorsque la tâche est étroite, répétitive et mesurable. Ils peuvent traiter rapidement de grands volumes de dossiers et produire des résultats homogènes. Les systèmes à base de règles sont parfois plus faciles à inspecter que les modèles complexes, puisque leur logique de décision est explicite.

Les limites de la prédiction

L’IA traditionnelle ne comprend pas automatiquement la cause d’un résultat. Un modèle peut repérer une association statistique sans établir de lien de causalité, et un système entraîné sur des données historiques biaisées peut reproduire ou amplifier ce biais. Les règles peuvent également devenir fragiles dès que les conditions sortent du cadre pour lequel elles ont été conçues, tandis que les modèles prédictifs complexes sont parfois difficiles à expliquer.

Les performances peuvent se dégrader lorsque le monde réel évolue : c’est le phénomène souvent appelé dérive des données. Dans les secteurs sensibles — crédit, recrutement, assurance, police ou santé — un déploiement responsable suppose donc des contrôles de qualité des données, des tests de biais, des explications adaptées, une supervision humaine, un suivi continu et des voies de recours.

2. L’IA générative : produire de nouveaux contenus

L’IA générative apprend des régularités à partir de vastes ensembles de textes, d’images, d’audio, de vidéos ou de code, puis utilise ces régularités pour produire de nouveaux résultats. Les grands modèles de langage génèrent du texte de manière séquentielle, tandis que les systèmes multimodaux peuvent travailler avec plusieurs formats.

Cette évolution a transformé l’expérience utilisateur. Au lieu de sélectionner une commande parmi un ensemble fixe ou de recevoir un simple score de classification, on peut décrire un objectif en langage courant et demander à un système de rédiger, transformer ou expliquer un contenu.

Les usages de l’IA générative

Les applications courantes comprennent notamment :

• Le service client : rédaction de réponses, synthèse de conversations, traduction et recherche d’informations dans des bases de connaissances.
• Le travail juridique : résumé de documents, extraction de clauses, comparaison de sources et préparation de premières versions. Les professionnels doivent toujours vérifier les sources primaires et les affirmations juridiques.
• L’éducation : explication de notions, création d’exercices et commentaires personnalisés.
• La création : recherche d’idées, rédaction de textes et génération d’images, de musique, de concepts vidéo ou de code.
• La programmation : explication de code, écriture de tests, suggestion de corrections et accélération des tâches de développement répétitives.

Les principaux bénéfices sont la rapidité, la réduction du coût de production des premières versions, l’interaction en langage naturel et la possibilité de générer plusieurs variantes personnalisées. Mais une réponse plausible ne constitue pas nécessairement un jugement professionnel fiable.

Les principaux risques

Hallucinations et excès de confiance. Les grands modèles de langage peuvent produire des informations inventées, inexactes, biaisées ou excessivement simplifiées, parfois sur un ton très assuré. Les travaux consacrés à l’ancrage et à l’évaluation des modèles soulignent la nécessité de tester et de surveiller les hallucinations, les contenus dangereux, la manipulation, les atteintes aux droits d’auteur ainsi que les risques liés à la vie privée et à la sécurité.

Apprentissage et intégrité scolaire. Une vaste expérimentation menée dans un établissement secondaire a montré que le tutorat par IA améliorait les performances pendant les exercices. Mais les élèves qui s’y fiaient sans garde-fous pouvaient obtenir de moins bons résultats lorsque l’accès à l’outil était supprimé, ce qui suggère une acquisition plus faible des compétences. Des indices conçus par les enseignants se sont révélés plus protecteurs que la simple fourniture des réponses. Les outils génératifs peuvent également faciliter le plagiat ou rendre plus difficile l’évaluation des connaissances réellement maîtrisées par un élève.

Droits d’auteur et traçabilité. La provenance des données d’entraînement, l’imitation de styles et la reproduction éventuelle de contenus protégés restent des sujets contestés. Les recommandations consacrées à l’éducation identifient la violation de la propriété intellectuelle comme un risque important, au même titre que les contenus inexacts, biaisés ou dangereux.

Contenus dangereux et manipulation. Les systèmes génératifs peuvent produire de la désinformation, du harcèlement, des contenus sexuels ou violents et des instructions dangereuses. Les recommandations de sécurité préconisent des tests, des protections, l’enregistrement de l’activité et une surveillance continue, plutôt que de supposer qu’un modèle suivra toujours le comportement attendu.

Sécurité et bien-être des jeunes. Les recherches sur les risques de l’IA générative pour les jeunes font apparaître des préoccupations liées à la santé mentale, au développement comportemental et social, à la toxicité, à la vie privée ainsi qu’au mésusage ou à l’exploitation. Ces risques sont particulièrement sérieux lorsqu’un utilisateur considère un chatbot comme un substitut fiable à un accompagnement humain qualifié.

Vie privée et confidentialité. Les requêtes peuvent contenir des informations personnelles, des secrets commerciaux, des données de clients ou des éléments couverts par le secret professionnel. Les organisations doivent définir quelles données peuvent être saisies dans quels services ; les utilisateurs devraient considérer les outils non approuvés comme inadaptés aux informations sensibles.

Les garde-fous utiles

Une règle de base consiste à traiter la réponse d’un modèle comme un brouillon, et non comme une preuve. Les affirmations importantes doivent être vérifiées auprès de sources faisant autorité. Une validation humaine devrait être obligatoire pour les décisions médicales, juridiques, financières, professionnelles ou liées à la sécurité.

Parmi les contrôles utiles figurent la recherche documentaire fondée sur des sources approuvées, l’ajout de citations, les tests en équipe rouge, les filtres de contenu, une conception adaptée à l’âge, les journaux d’audit, l’information des utilisateurs et des politiques précises sur les données, l’usage scolaire, la provenance et les droits de propriété intellectuelle. Les recommandations publiques mettent également en avant les contenus inexacts ou biaisés, les fuites de données personnelles, les atteintes aux droits d’auteur et les difficultés liées à l’intégrité académique.

3. L’IA agentique : des systèmes capables d’agir

L’IA agentique ajoute une couche d’action. Un agent peut interpréter un objectif, le décomposer en étapes, utiliser des outils — navigateur, dépôt de code, base de données ou messagerie —, examiner les résultats intermédiaires et poursuivre son travail dans la limite des autorisations qui lui ont été accordées.

C’est ce qui distingue un agent d’un simple chatbot, même lorsque les deux utilisent un grand modèle de langage. Un chatbot peut rédiger un courriel ; un agent peut rechercher des informations, préparer le message, l’envoyer et mettre à jour un autre système. Un assistant de programmation peut expliquer une erreur ; un agent peut examiner un projet, modifier des fichiers, exécuter des tests et préparer une modification pour validation.

Parmi les exemples actuellement cités figurent des agents de développement logiciel comme Google Jules, des outils de recrutement comme LinkedIn Hiring Assistant et des frameworks d’agents personnels comme OpenClaw. Le projet OpenClaw se présente comme un assistant personnel open source exécuté sur les appareils de l’utilisateur et connecté à des canaux et à des outils ; ses capacités réelles dépendent des intégrations et des autorisations activées.

Pourquoi les agents peuvent être utiles

Les systèmes agentiques peuvent :

• accomplir des processus complets plutôt qu’une simple tâche de rédaction ;
• réduire les opérations administratives et la coordination répétitive ;
• relier des informations dispersées entre plusieurs systèmes d’entreprise ;
• fonctionner en continu dans des limites définies.

Ils pourraient ainsi rendre certains processus complexes plus accessibles aux petites organisations et aux utilisateurs individuels. La question centrale change toutefois : il ne s’agit plus seulement de demander « La réponse est-elle exacte ? », mais aussi « Que le système a-t-il le droit de faire, et comment ses actions peuvent-elles être vérifiées ? »

Pourquoi l’autonomie élargit la surface de risque

Un modèle génératif peut se tromper dans une réponse. Un agent peut transformer une mauvaise inférence, une instruction malveillante ou un outil compromis en action concrète.

Par exemple, un agent disposant d’un accès financier pourrait effectuer un paiement, un achat, un virement ou une annulation non autorisé. Un agent ayant accès à la messagerie, au navigateur ou au cloud pourrait être manipulé par une page ou un document malveillant afin d’exposer des identifiants ou d’envoyer des fichiers confidentiels. Des permissions excessives, des contrôles d’identité faibles et une séparation insuffisante des responsabilités peuvent transformer une petite erreur du modèle en incident grave.

La responsabilité est également plus difficile à attribuer lorsque le résultat provient des interactions entre le modèle, les instructions, les données, les outils et d’autres agents. L’opérateur doit donc pouvoir examiner non seulement le résultat final, mais aussi l’action proposée, les éléments qui la justifient et les autorisations utilisées.

La gouvernance doit suivre le niveau de capacité

Les mêmes principes fondamentaux s’appliquent aux trois étapes : désigner un responsable, limiter le système à une finalité définie, protéger les données, tester avant le déploiement, surveiller les performances, préparer la réponse aux incidents et prévoir une supervision ou une possibilité d’annulation humaine pour les décisions importantes.

Les systèmes agentiques exigent des contrôles supplémentaires, car ils peuvent agir sur des systèmes externes. Les mesures pratiques comprennent notamment :

• des identifiants soumis au principe du moindre privilège et limités dans le temps ;
• des comptes distincts et une identité claire pour chaque agent ;
• des limites explicites sur ce que l’agent peut lire, écrire, envoyer, acheter, supprimer ou déployer ;
• des demandes de confirmation pour les actions irréversibles ou à fort impact ;
• des listes d’outils approuvés, des environnements isolés et une protection contre les injections de prompt ;
• des plafonds de transaction et une détection des anomalies ;
• des journaux d’action détaillés et protégés contre les altérations ;
• une séparation des responsabilités et une validation humaine proportionnée au risque ;
• un mécanisme rapide de pause ou d’arrêt complet.

Singapour a lancé le 22 janvier 2026 son Model AI Governance Framework for Agentic AI, un cadre de référence destiné aux organisations qui déploient ces systèmes, et non une loi autonome sur l’IA. Son approche place la responsabilité humaine et organisationnelle au centre et recommande des mesures de gestion des risques proportionnées au niveau d’autonomie d’un agent.

Dans les services financiers, le document SAFR de la Monetary Authority of Singapore décrit une approche de gouvernance en temps réel dans laquelle un enregistrement structuré précise ce que l’agent entend faire, pourquoi il entend le faire et quelles preuves étayent l’action proposée.

À retenir

L’évolution de l’IA n’est pas une marche linéaire de la « vieille IA » vers une « nouvelle IA ». Les systèmes à base de règles et les modèles prédictifs restent le meilleur choix pour de nombreuses décisions délimitées. L’IA générative apporte une production flexible et une interaction en langage naturel. L’IA agentique ajoute la capacité de poursuivre des objectifs en utilisant des outils et en agissant sur des systèmes externes.

Les exigences de gouvernance augmentent avec ces capacités. La prédiction impose de surveiller l’exactitude, les biais et la dérive des données. La génération exige en plus de vérifier la véracité, la sécurité, la confidentialité et la provenance. L’action requiert enfin des contrôles d’autorisation, des validations, une responsabilité clairement attribuée et des plans de récupération.

Les produits d’IA les plus fiables combineront donc la puissance des modèles avec une conception rigoureuse des systèmes et une véritable supervision humaine.