La prédiction 2028 de Jack Clark : quand l’IA pourrait bâtir son propre successeur

En clair : Clark redoute un basculement où l’IA ne se contente plus d’aider les humains à construire de meilleures IA, mais prend en charge une part suffisante du processus pour produire la génération suivante avec peu ou pas de participation humaine .

Que signifie « construire son successeur » ?

Un « successeur » désigne ici le prochain système, plus capable, dans une séquence de développement de modèles. L’inquiétude de Clark est qu’une IA suffisamment avancée puisse participer aux étapes critiques — ou les automatiser — pour créer ce modèle suivant .

Il faut donc distinguer ce scénario de l’usage déjà familier d’une IA comme copilote de code. Écrire ou corriger du code n’est qu’une tâche dans un ensemble beaucoup plus vaste. Le scénario discuté concerne toute la chaîne de R&D : conception, entraînement, évaluation et amélioration de modèles de frontière .

Autre nuance importante : Clark n’affirme pas que ce seuil est déjà franchi. Il formule une prévision probabiliste sur ce qui pourrait arriver d’ici à la fin de 2028 .

Pourquoi on parle d’auto-amélioration récursive

Le mécanisme est souvent appelé auto-amélioration récursive : une IA aide à créer une IA plus capable, qui peut ensuite aider à créer une IA encore plus capable .

La version la plus risquée de cette boucle ne se résume pas à « l’IA améliore des logiciels ». Elle implique un effet cumulatif : à chaque génération, le système qui améliore l’IA devient lui-même plus performant. Les discussions autour de l’alerte de Clark relient ce scénario au risque d’« explosion d’intelligence », c’est-à-dire une accélération des capacités quand les IA commencent à améliorer les systèmes qui leur succèdent .

C’est pourquoi cette prédiction dépasse le simple jalon technique. Si le principal goulot d’étranglement du progrès en IA se déplace des chercheurs humains vers des systèmes d’IA qui améliorent d’autres IA, le rythme pourrait devenir bien plus difficile à suivre, à tester et à encadrer .

Où se situe le risque majeur

Le risque n’est pas l’image de science-fiction d’un robot qui en assemble un autre. Il se situe plutôt dans une chaîne de production de modèles avancés qui deviendrait plus rapide, plus autonome et moins lisible pour les humains .

Trois inquiétudes en découlent :

• Moins de points d’arrêt humains. Si les systèmes d’IA peuvent mener seuls une grande partie de la recherche, de l’entraînement et de l’amélioration, les chercheurs et les entreprises pourraient avoir moins de temps pour évaluer la sûreté avant l’apparition d’un système plus puissant .
• Une accélération des capacités. L’alerte de Clark est liée à l’idée que le progrès pourrait s’emballer lorsque l’IA commence à améliorer l’IA, dynamique décrite dans certains articles comme un risque d’« explosion d’intelligence » .
• Une pression accrue sur la gouvernance. Clark écrit que les implications sont considérables et qu’il n’est pas certain que la société soit prête aux changements qu’impliquerait une R&D en IA automatisée .

Autrement dit, le danger principal n’est pas seulement d’innover plus vite. Il est de voir la création de systèmes plus puissants avancer plus rapidement que les mécanismes humains de supervision, de tests de sûreté, de régulation et de compréhension publique .

Ce qui reste très incertain

Le chiffre de Clark reste un jugement probabiliste, pas un fait établi . Et le calendrier fait débat.

Une critique de cette prévision estime qu’une auto-amélioration récursive entièrement autonome et de bout en bout d’ici 2028 est improbable, avec une probabilité inférieure à 10 %, tout en reconnaissant qu’un scénario de ce type pourrait devenir possible sur une période plus longue, jusqu’en 2036 .

Il existe aussi un désaccord technique sur la question de savoir si l’auto-amélioration récursive produirait réellement des gains de plus en plus rapides. Un article citant l’informaticien Pedro Domingos souligne que le point clé n’est pas seulement de savoir si des systèmes d’IA peuvent générer ou modifier du logiciel, mais si cela entraîne des rendements croissants fiables ; selon lui, cela n’a pas été clairement démontré .

Ces distinctions comptent. « L’IA aide la recherche en IA », « l’IA automatise la majeure partie de la R&D en IA » et « l’IA s’améliore elle-même assez vite pour provoquer une explosion d’intelligence » sont des affirmations liées, mais elles ne disent pas exactement la même chose . Clark alerte surtout sur la version la plus lourde de conséquences de cette progression .

Le point à retenir

Selon Jack Clark, il est plus probable qu’improbable que, d’ici à la fin de 2028, des systèmes d’IA puissent mener une R&D en IA sans intervention humaine et plausiblement construire leurs propres successeurs .

S’il a raison, l’enjeu n’est pas seulement une nouvelle accélération technologique. C’est le risque que la fabrication d’IA plus puissantes commence à aller plus vite que la supervision humaine, les tests de sûreté et les règles capables de l’encadrer . La réserve essentielle : cette prévision reste contestée, et plusieurs critiques jugent le calendrier de 2028 trop ambitieux .