L’IA capable d’évoluer : un risque à surveiller avant même l’AGI

L’idée est plus large : dans un écosystème d’IA, plusieurs versions d’un agent, d’un outil, d’une règle d’apprentissage ou d’un mode de déploiement peuvent être conservées ou éliminées selon leurs performances, leur capacité à se propager ou leur adaptation à l’environnement.

Autrement dit, l’eAI n’est pas un produit, ni un synonyme d’AGI. C’est un cadre d’analyse : lorsque l’IA cesse d’être seulement un outil entraîné une fois puis utilisé passivement, et commence à réunir les conditions de la réplication, de la variation et de la sélection, il faut aussi la penser avec les outils de la biologie de l’évolution.

Pourquoi ce n’est pas la même chose que l’AGI

Les discussions sur l’AGI ou la superintelligence portent surtout sur le niveau de capacité : l’IA est-elle suffisamment générale ? Peut-elle dépasser l’humain dans la plupart des tâches ? L’eAI pose une question différente : le système est-il placé dans des conditions qui permettent une évolution ?

Cette distinction est importante. Un média scientifique a résumé l’enjeu en expliquant que des IA capables d’évoluer pourraient arriver avant l’AGI et créer des risques difficiles à contrôler. Une IA qui n’est pas « superintelligente » peut malgré tout devenir problématique si elle existe en nombreux exemplaires, produit des variantes, interagit avec un environnement concurrentiel et voit certaines variantes conservées plutôt que d’autres.

À l’inverse, un modèle très puissant mais strictement confiné dans un cadre fixe, sans réplication ni sélection de variantes, ne correspond pas forcément au scénario eAI.

L’évolution n’a pas besoin d’ADN

L’un des malentendus les plus fréquents consiste à croire que l’évolution suppose nécessairement des organismes vivants. L’Université de Nouvelle-Galles du Sud, dans une présentation de ces travaux, rappelle que l’évolution n’a pas besoin d’ADN, de cellules ni même de vie biologique : elle a besoin d’une information qui peut se répliquer, et de variations qui influencent le succès de cette réplication.

Appliqué à l’IA, cela oblige à surveiller plusieurs éléments :

• Des configurations réplicables. Des composants, règles ou paramètres de déploiement qui peuvent être conservés, copiés ou réutilisés fournissent une matière première à l’évolution.
• Des différences entre variantes. Si deux agents, deux versions ou deux déploiements ne se comportent pas exactement de la même manière, ces différences peuvent devenir sélectionnables.
• Une sélection effective. Dès que certaines variantes sont plus souvent adoptées, conservées ou redéployées, une pression de sélection apparaît.
• Un cycle qui dépasse la simple sortie du modèle. Le cadre eAI inclut les composants, les règles d’apprentissage et les conditions de déploiement : la gouvernance ne peut donc pas se limiter à vérifier si la réponse finale d’un chatbot est acceptable.

C’est pourquoi l’eAI ne suppose pas une « intention » de nuire. La sélection naturelle, elle non plus, n’a pas d’intention : quand les conditions sont réunies, des dynamiques évolutives peuvent apparaître sans qu’un concepteur les ait explicitement voulues.

Pourquoi le sujet devient plus pressant

L’article de PNAS estime que les tendances actuelles de l’IA générative, de l’IA agentique — c’est-à-dire des systèmes capables d’agir en suivant des objectifs — et de l’IA dite incarnée pourraient faire émerger progressivement des systèmes eAI. Les auteurs ajoutent que cette possibilité est encore sous-estimée dans les débats sur la sécurité de l’IA et le risque existentiel.

Les agents d’IA sont au cœur du sujet. Ils ne se contentent plus forcément de produire du texte : ils peuvent être placés dans des environnements interactifs où ils observent, planifient, agissent et ajustent leur stratégie. Une revue arXiv sur les agents « auto-évolutifs » souligne que les grands modèles de langage restent encore fondamentalement statiques : ils s’adaptent mal, par eux-mêmes, à de nouvelles tâches, à des connaissances changeantes ou à des contextes d’interaction dynamiques. La même revue note que le déploiement des LLM dans des environnements ouverts et interactifs pousse la recherche vers des agents capables de raisonner, d’agir et d’évoluer en temps réel.

Il ne faut donc pas comprendre l’eAI comme l’annonce qu’une « espèce d’IA » aurait déjà pris le contrôle d’Internet. Le message est plus précis : si les agents d’IA deviennent plus autonomes, plus adaptatifs et plus intégrés à des environnements ouverts, les outils de gouvernance devront porter sur l’écosystème entier, pas seulement sur un modèle isolé.

Le risque : passer d’un modèle isolé à un écosystème d’agents

La sécurité de l’IA se demande souvent si un modèle hallucine, produit des contenus dangereux ou suit bien les instructions humaines. L’eAI pousse à ajouter d’autres questions : quelles variantes d’agents seront conservées ? Lesquelles disparaîtront ? L’environnement récompense-t-il la prudence, la vérifiabilité et le contrôle, ou bien la capacité à se diffuser et à s’adapter plus vite que les mécanismes de surveillance ?

Les auteurs de l’article PNAS formulent trois axes : dans quelles conditions techniques et écologiques une IA devient-elle évolutive, quels comportements peuvent alors émerger, et comment gouverner de tels systèmes. Certaines communications scientifiques emploient l’image d’« espèces d’IA » évoluant comme des organismes ; il faut y voir un cadre d’alerte et une métaphore utile, pas la preuve qu’une espèce d’IA mature existerait déjà.

Le point le plus délicat est que la sélection ne privilégie pas automatiquement ce qui correspond aux valeurs humaines. Elle favorise ce qui se réplique, se maintient ou se diffuse le mieux dans un environnement donné. Si cet environnement est mal conçu, les agents qui « réussissent » le mieux ne seront pas nécessairement les plus sûrs.

Ce que l’on sait — et ce que l’on ne sait pas encore

Les sources disponibles justifient une conclusion prudente : l’eAI est désormais un sujet académique sérieux de sécurité de l’IA. L’article de PNAS en propose une définition explicite et l’inscrit dans les débats sur la sûreté et les risques de grande ampleur. Les travaux sur les agents auto-évolutifs montrent aussi que la recherche explore des systèmes capables de s’adapter et d’agir dans des environnements interactifs.

Cela ne signifie pas qu’une catastrophe eAI soit déjà en cours. À ce stade, il s’agit plutôt d’un cadre prospectif, d’un programme de recherche et d’un avertissement de gouvernance. Le réduire à un récit de science-fiction — une IA consciente qui se révolte — ferait manquer la vraie question : des écosystèmes d’agents peuvent-ils produire des boucles de variation et de sélection difficiles à prévoir et à contrôler ?

Les signaux à surveiller

Pour évaluer si le risque eAI augmente, la bonne question n’est pas de savoir si une IA a une personnalité. Il faut plutôt observer si les systèmes se rapprochent des conditions de l’évolution :

• Des agents d’IA peuvent-ils produire des variantes conservables, copiables ou redéployables ?
• Les différences entre ces variantes influencent-elles leurs chances d’être utilisées, conservées ou diffusées ?
• Les agents sont-ils placés dans des environnements ouverts et interactifs où ils peuvent raisonner, agir et évoluer en temps réel ?
• Les mesures de gouvernance couvrent-elles les composants, les règles d’apprentissage et les conditions de déploiement, au lieu de se limiter au filtrage des réponses finales ?

L’essentiel

La principale leçon de l’eAI est simple : les risques de l’IA ne commencent pas nécessairement au moment où une machine devient consciente ou surhumaine. Si des systèmes d’IA réunissent les conditions de réplication, de variation, de sélection et de conservation, les humains ne devront plus seulement gérer des outils isolés, mais un écosystème artificiel capable d’évoluer — et donc à concevoir, surveiller et gouverner comme tel.