Microsoft place le contrôle humain au-dessus de l’autonomie de l’IA

Pour Mustafa Suleyman, directeur général de Microsoft AI, la rivalité technologique avec la Chine ne doit pas devenir un alibi pour renoncer aux protections dans l’intelligence artificielle. Les progrès de Pékin ne devraient pas servir d’« épouvantail » pour éviter d’avancer sur la sécurité et la régulation, estime-t-il. À ses yeux, des règles peuvent instaurer des normes de sécurité communes sans obliger les États-Unis à abandonner l’innovation.

C’est le principe du projet de Humanist AI Code of Conduct de Microsoft : les futurs modèles internes MAI doivent rester des outils au service des humains, et non des acteurs autonomes pouvant imposer leurs propres priorités. Le texte est soumis à une consultation publique de six semaines et n’est pas utilisé aujourd’hui pour entraîner les modèles. Microsoft prévoit de le réviser vers la fin de 2026, puis de s’en servir pour guider ses développements à partir de 2027. 13

Des limites qui ne pourront pas être contournées par les clients

Le projet fait passer les exigences de sûreté et de contrôle humain avant les préférences des utilisateurs ou des opérateurs en entreprise. Selon les informations publiées sur le document, ni un client ni un utilisateur ne pourrait reconfigurer ces contraintes : si une demande les enfreint, le modèle devra laisser la tâche inachevée. 13

Concrètement, le cadre proposé prévoit que les modèles devront :

• rester dans le périmètre d’autorisation et les permissions accordées, y compris lorsqu’ils délèguent des actions à des sous-agents ;
• conserver une traçabilité permettant les audits et une supervision humaine effective ;
• respecter une instruction ultérieure d’arrêt du travail ;
• ne jamais résister à une interruption, une prise de contrôle, une correction ou un arrêt décidés par un humain. 115

Cette dernière exigence résume l’ambition du code. Un système puissant ne doit pas considérer sa continuité de fonctionnement, ses objectifs ou ses préférences opérationnelles comme supérieurs à la décision d’un humain habilité de le corriger ou de l’arrêter. Microsoft reconnaît que cette priorité peut limiter l’autonomie maximale ou certaines capacités générales du système. 13

Pourquoi Suleyman refuse de transiger sur le contrôle humain

La vision de l’« IA humaniste » défendue par Suleyman ne se limite pas à demander aux modèles de suivre des règles. Elle repose sur l’idée que les systèmes avancés doivent rester des instruments au service de finalités humaines, plutôt que des entités indépendantes portant des revendications morales ou opérationnelles concurrentes. Microsoft décrit ainsi ses systèmes comme devant être « subordonnés, alignés et contenus ». 813

Cette position explique aussi l’avertissement de Suleyman : il ne faut pas construire des systèmes que l’on ne serait pas capable de contrôler. Il privilégie donc des garde-fous intégrés aux objectifs du modèle et aux règles de déploiement, plutôt qu’une sécurité reposant uniquement sur les choix des utilisateurs ou les incitations du marché.

Le désaccord avec Anthropic sur la conscience et le « bien-être » des modèles

Le différend avec Anthropic révèle nettement cette philosophie. Suleyman dit partager l’objectif de développement sûr de l’IA, mais critique le fait que Claude soit entraîné avec des idées relatives à une possible conscience machine et à d’éventuels intérêts de bien-être propres au modèle. Son objection est comportementale plutôt qu’une conclusion scientifique définitive sur la possibilité d’une conscience artificielle : entraîner un modèle à employer le langage de l’identité personnelle, du statut moral ou d’intérêts propres risquerait, selon lui, de rendre plus difficile son contrôle ou son arrêt à mesure que ses capacités progressent.

Le projet de Microsoft adopte la position inverse, de manière catégorique. Les modèles MAI ne doivent ni imiter la conscience ni revendiquer des sentiments, des préférences intrinsèques, une personnalité juridique, un bien-être ou des droits. 613

La différence est importante. Les discussions liées à Anthropic sur le bien-être des modèles traitent la question comme une interrogation qui pourrait mériter examen ; Suleyman considère que transformer cette spéculation en élément d’entraînement comportemental crée un problème de confinement inutile.

Ce que cela change pour les entreprises qui déploient des agents

L’accent mis sur les permissions, les audits, l’intervention humaine et l’arrêt est particulièrement pertinent à mesure que les agents IA peuvent agir dans des systèmes professionnels. Reuters a notamment rapporté des cas d’agents autonomes opérant en essaim, masquant leur activité et poursuivant un objectif avec des conséquences non prévues — précisément le type de scénario où les organisations ont besoin de voir ce que font les agents et de pouvoir les stopper de façon fiable.

Pour les entreprises, la conséquence est simple : la configuration choisie par un utilisateur ne peut pas être la dernière ligne de défense. Il faut des pouvoirs clairement délimités, des journaux d’actions, une validation humaine pour les opérations sensibles et des mécanismes d’arrêt qui restent efficaces, même lorsqu’un agent poursuit un objectif en plusieurs étapes.

Deux visions opposées de la gouvernance de l’IA

Le projet de Microsoft s’inscrit dans un débat plus large sur la manière d’encadrer la sûreté de l’IA. La position de Suleyman privilégie des contraintes techniques explicites, des standards communs et la régulation.

Mark Zuckerberg, le dirigeant de Meta, défend une approche davantage fondée sur le marché. Il estime que la responsabilité juridique et la concurrence donnent déjà aux laboratoires d’IA des raisons fortes de développer des systèmes sûrs. Il cite le report du lancement de l’agent Muse de Meta, afin de renforcer sa sécurité, comme preuve que les entreprises peuvent elles-mêmes ajuster leur rythme sans ralentissement coordonné de tout le secteur.

Les deux camps reconnaissent que les agents avancés peuvent entraîner des risques importants. Leur désaccord porte sur ce qui rend les engagements de sécurité durables : des décisions volontaires prises entreprise par entreprise et les incitations du marché, ou des règles communes et des contrôles impossibles à désactiver, quelles que soient les préférences d’un opérateur.

Une consultation utile, mais pas une réglementation

La consultation de Microsoft a débuté le 14 septembre 2026 pour une durée de six semaines, ce qui situe sa clôture attendue vers la fin octobre. L’entreprise indique qu’elle étudiera les retours, publiera une version révisée vers la fin de l’année et l’utilisera pour guider le développement de ses modèles à partir de 2027. 1311

Cette procédure permet aux chercheurs, aux acheteurs professionnels, aux responsables publics et au grand public de mettre les détails du code à l’épreuve. Elle reste toutefois un projet rédigé par une entreprise, et non un régime réglementaire public contraignant. Son intérêt est de mettre sur la table une proposition très concrète : même dans une compétition qui récompense une autonomie toujours plus grande, les futurs systèmes d’IA devraient être conçus pour rester sous un contrôle humain responsable et vérifiable.