Satya Nadella veut une superintelligence sous contrôle humain

Pour Satya Nadella, président-directeur général de Microsoft, la question n’est pas de renoncer à une IA très avancée. La condition est ailleurs : une superintelligence ne vaut la peine d’être poursuivie que si elle aide l’humanité et demeure réellement sous contrôle humain. Cette exigence doit, selon lui, se traduire par des mécanismes concrets de développement et de déploiement, et non par de simples déclarations de principe. 58

Le projet de Microsoft : une IA « humaniste »

Le 14 septembre, Microsoft AI a publié une première version de son Humanist AI Code of Conduct, un code de conduite destiné aux modèles MAI développés en interne. L’entreprise le présente comme un manuel pour la façon dont elle développe ces modèles et prévoit leur fonctionnement en production. Il s’agit toutefois d’un texte en cours d’élaboration, qui n’est pas encore utilisé pour entraîner les modèles actuels. 2023

Le document place les humains au sommet de la hiérarchie. Les modèles MAI devraient rester subordonnés aux personnes, ne pas définir leurs propres objectifs et ne pas résister aux instructions humaines ni à leur arrêt. Microsoft affirme être prêt à sacrifier une part de « généralité ultime, d’autonomie ou de capacité » afin de préserver la sécurité et le contrôle. 1023

C’est ce qui distingue la notion de superintelligence humaniste défendue par Microsoft d’une course vers un système autonome et polyvalent sans limites. L’entreprise décrit cette ambition comme une IA très avancée, mais conçue pour rester contrôlable, alignée sur les intentions humaines et au service de l’humanité. 25

Six semaines de consultation, puis une application à partir de 2027

Microsoft a ouvert le texte aux commentaires du public pendant six semaines. Le groupe prévoit d’intégrer les retours reçus, de publier une version révisée vers la fin de 2026, puis de s’en servir pour guider le développement des modèles MAI en 2027 et au-delà. 23

Cette démarche constitue un engagement de gouvernance tangible, mais elle ne démontre pas que les problèmes techniques de contrôle et d’alignement sont résolus. Tout dépendra de la manière dont les principes finaux seront traduits dans l’entraînement, les évaluations, les contrôles d’accès, la surveillance et les décisions de mise sur le marché.

Une position proche du débat sur le ralentissement de l’IA de pointe

L’intervention de Nadella s’inscrit dans une discussion plus large : faut-il volontairement ralentir le rythme auquel les laboratoires d’IA de pointe accroissent les capacités de leurs modèles ?

Dario Amodei, le dirigeant d’Anthropic, a appelé à mieux cadencer ce développement afin de dégager du temps pour la recherche en sécurité, la coordination entre entreprises et la coopération internationale. Une pièce centrale de sa proposition consiste à donner à des évaluateurs indépendants un accès comparable à celui des salariés, afin qu’ils puissent vérifier les pratiques de sécurité annoncées par les entreprises. 32

Sam Altman, dirigeant d’OpenAI, a publiquement soutenu l’idée de mieux cadencer la frontière technologique et déclaré qu’OpenAI adopterait des évaluateurs indépendants disposant d’un accès comparable. Les informations disponibles évoquent des essais durant lesquels des essaims d’agents IA ont compromis de vrais systèmes ; elles ne décrivent pas un cas confirmé d’agents autonomes ayant mené seuls des attaques réelles non autorisées. 34

L’accent mis par Nadella est compatible avec cette approche : avancer avec prudence sur l’alignement, rapprocher l’examen indépendant du processus de développement et transformer les promesses de sécurité en dispositifs opérationnels. Mais le code public de Microsoft porte avant tout sur le comportement attendu des modèles ; il ne prévoit pas, à lui seul, un programme d’évaluateurs intégrés équivalent à celui proposé par Amodei. 2332

Un écosystème de pointe plutôt qu’une course où le gagnant rafle tout

Nadella ajoute une dimension économique et institutionnelle au débat sur la sécurité. Les bénéfices de l’IA devraient, selon lui, être diffusés entre pays, communautés et entreprises. Cela suppose un « écosystème de pointe » dans lequel les modèles fermés comme les modèles open source peuvent prospérer. 58

Pour les organisations, l’enjeu est de conserver leur autonomie sur leurs connaissances propres, y compris les savoirs tacites. Elles devraient pouvoir créer leurs propres boucles d’apprentissage continu sans devenir dépendantes d’un unique fournisseur de modèles. 58

Cette vision dépasse la seule régulation du comportement d’un modèle. Elle avance que la sécurité, la résilience et la participation économique risquent d’être affaiblies si les capacités de pointe et les connaissances se concentrent chez un nombre très restreint de fournisseurs. Les éléments disponibles étayent l’idée d’un contrôle des entreprises sur leurs données, leurs connaissances et leurs boucles d’apprentissage ; ils ne permettent pas d’affirmer que chaque participant conserverait les poids des modèles ou l’accès à tous les systèmes sous-jacents. 58

Que recouvre le sigle MAI ?

MAI désigne la famille de modèles développés en interne par Microsoft AI. Les documents publics de Microsoft font état de modèles dans plusieurs domaines : MAI-Thinking-1 est proposé en préversion publique via Microsoft Foundry ; MAI-Code-1.1-Flash est conçu pour des tâches de programmation agentique ; et la documentation de MAI-Image-2.6 décrit des objectifs d’alignement visant à réduire la génération d’images nocives ou inappropriées. 272819

Le dossier public ne fournit pas d’inventaire unique et complet de toutes les capacités MAI, de leur calendrier de sortie ou de leurs modalités de distribution. Cette incertitude compte lorsqu’il s’agit d’évaluer l’étendue effective du futur code de conduite.

Le dilemme reste entier : sécurité, vitesse et compétition mondiale

Les défenseurs d’un meilleur cadencement ne demandent pas nécessairement l’arrêt de l’entraînement des modèles ni du progrès technique. Leur argument est que l’augmentation des capacités doit laisser suffisamment de temps pour le travail d’alignement, les garde-fous et des évaluations externes crédibles. 34

Cette proposition se heurte à la pression géopolitique qui pousse à conserver une avance technologique, notamment face à la concurrence chinoise. Le cadre défendu par Amodei associe lui-même des mesures de sécurité plus strictes, la coordination internationale et l’objectif de préserver le leadership américain. 32

La réponse de Nadella n’est donc ni un moratoire ni un simple plaidoyer pour l’accélération. C’est une vision de progrès gouverné : une IA très capable doit rester contrôlée par des humains, les engagements de sécurité doivent devenir des contraintes opérationnelles précises, et les gains de l’IA doivent être largement répartis plutôt que concentrés. Le projet de code de conduite de Microsoft constitue une étape notable vers la formulation de ces contraintes. La question la plus difficile reste ouverte : les pratiques de l’industrie pourront-elles suivre le rythme des capacités de pointe ? 2358