Shane Legg alerte : la sécurité de l’IA doit suivre le rythme de l’AGI

Shane Legg, cofondateur de Google DeepMind, formule un avertissement clair : les capacités de l’intelligence artificielle ne doivent pas progresser plus vite que les garde-fous permettant de les surveiller et de les contrôler. Il a porté ce message lors du lancement du DeepMind Institute (DMI), une nouvelle plateforme consacrée aux conditions de déploiement et aux implications de l’intelligence artificielle générale, ou AGI. 141

Le point central : ne pas laisser les garde-fous décrocher

Pour Legg, le problème ne se limite pas au fait que les modèles deviennent plus performants. La question est de savoir si les outils de supervision, de suivi, de gouvernance et de contrôle évoluent assez vite pour que des systèmes toujours plus puissants restent maîtrisables. 1

C’est aussi la raison pour laquelle le nouvel institut ne se limite pas à la recherche informatique. Le DMI entend encourager la recherche interdisciplinaire, la collaboration et le débat sur les questions techniques et sociales les plus importantes de l’ère de l’AGI : comment concevoir et gouverner ces systèmes en sécurité, mais aussi comment organiser les communautés d’agents qu’ils pourraient former. 16

Le DeepMind Institute, un lieu de publication et de débat

Le DeepMind Institute n’est pas présenté comme un nouveau laboratoire appelé à remplacer les activités de recherche de Google DeepMind. Il s’agit plutôt d’une plateforme de publication et de discussion, destinée à réunir des contributions de Google DeepMind et de chercheurs extérieurs sur la manière de construire, gouverner, déployer et utiliser des IA de plus en plus capables. 3642

Son champ couvre notamment les sciences, l’éducation, la société, les politiques publiques, la philosophie, l’économie, la sécurité et l’épanouissement humain. L’enjeu est donc double : réduire les risques graves, mais aussi réfléchir aux institutions, règles et objectifs collectifs qui pourraient devoir évoluer si l’AGI était largement déployée. 1636

Ralentir les sorties de modèles de pointe ? Une piste « à considérer »

Legg a jugé « intéressante dans son orientation » et « digne d’être envisagée » la proposition de Dario Amodei, dirigeant d’Anthropic, de ralentir — sans les suspendre — les mises sur le marché de modèles d’IA de pointe. 2

Ces propos ne constituent pas l’annonce d’une politique officielle de DeepMind. Ils montrent toutefois qu’il considère un rythme de diffusion plus prudent comme une option sérieuse dans le débat sur l’adéquation entre déploiement et garanties de sécurité. 2

Pourquoi il juge prématuré d’affirmer que l’AGI est déjà là

Malgré des déclarations récentes de dirigeants de Nvidia et d’OpenAI, Shane Legg estime qu’il est trop tôt pour affirmer que l’AGI a déjà été atteinte. Les informations disponibles ne détaillent pas tous les écarts de capacités précis auxquels il fait référence ; la conclusion étayée est donc plus limitée : selon lui, les systèmes actuels ne satisfont pas encore le seuil retenu par DeepMind pour parler d’AGI. 4

Google DeepMind décrit l’AGI comme un système disposant des capacités cognitives du cerveau humain. Cette définition est nettement plus large que l’excellence sur quelques tests de référence ou tâches isolées. 13

Legg reste néanmoins « à l’aise » avec son estimation de longue date : 50 % de probabilité d’atteindre une « AGI minimale » d’ici 2028. Il s’agit d’une prévision, et non d’un calendrier confirmé. 210

Les premiers essais publiés

La collection inaugurale comprend un texte de présentation et plusieurs essais de fond. Trois thèmes illustrent particulièrement l’ambition transversale du DMI :

1. La transparence du raisonnement : Rohin Shah et Anca Dragan plaident pour préserver un raisonnement interprétable afin que les humains puissent surveiller les modèles et détecter d’éventuelles tentatives de tromperie ou de comportement stratégique. 11
2. La politique économique face à l’AGI : un essai examine onze politiques susceptibles de répondre aux perturbations économiques liées à une IA toujours plus avancée et répandue, selon des critères incluant le bien-être, la résilience, l’autonomie et la stabilité économique. 39
3. Les principes d’un « nouvel utopisme » : le texte s’interroge sur ce que pourrait être l’épanouissement humain dans une société façonnée par l’AGI, tout en rappelant que l’utopie ne doit pas être comprise comme une promesse de perfection. 37

L’institut répertorie également un quatrième essai de fond, intitulé A framework for frontier AI and the dawning of a new age, aux côtés du texte d’introduction et des trois essais précédents. 4138

À retenir

La position de Shane Legg mêle urgence et retenue. Il ne considère pas que l’AGI soit déjà une réalité, mais maintient une probabilité substantielle de 50 % pour une « AGI minimale » d’ici 2028. Son message porte donc moins sur une date précise que sur une exigence de gouvernance : si les capacités de l’IA accélèrent, les moyens de les comprendre, les superviser et encadrer leur déploiement doivent accélérer eux aussi. 1216