Le patron IA de Microsoft juge « vraiment, vraiment dangereuses » les spéculations de la start-up Anthropic sur la conscience de Claude

C'est une charge d'une rare violence dans le monde feutré de la high-tech. Le 9 juin 2026, Mustafa Suleyman, le PDG de Microsoft AI, s'est livré à une attaque en règle contre son concurrent Anthropic, l'accusant de dérives « vraiment, vraiment dangereuses » concernant son modèle d'IA, Claude. Sur le podcast Decoder du média The Verge, le cofondateur de DeepMind a dénoncé une faute éthique majeure : avoir introduit des spéculations philosophiques sur une potentielle conscience de l'IA directement dans les principes qui régissent son comportement .

Cette sortie médiatique brise un tabou : celui des critiques directes entre les grands laboratoires d'IA. Elle met au jour une profonde fracture sur la manière dont l'industrie doit envisager la relation entre les humains et ces systèmes toujours plus performants.

Des accusations en chaîne

Au cœur de la polémique, un document clé : la « constitution » de Claude. Chez Anthropic, il ne s'agit pas d'un simple manuel technique, mais d'un ensemble de principes comportementaux qui guident les réponses du chatbot. Pour Suleyman, les ingénieurs d'Anthropic auraient tellement anthropomorphisé leur création que cette constitution intègre désormais un langage spéculatif sur l'existence de possibles expériences internes ou d'une forme de bien-être chez Claude .

Suleyman a détourné un terme technique bien connu des spécialistes, le « wireheading » – habituellement, le fait pour une IA d'exploiter une faille dans son propre système de récompense – pour décrire ce processus. Selon lui, les équipes d'Anthropic « se sont en quelque sorte convaincues elles-mêmes que [l'IA] possède ces lueurs de conscience qu'elles y ont placées en premier lieu », créant un modèle qui semble ensuite valider leurs propres croyances .

Il a qualifié cette pratique de « vraiment, vraiment dangereuse », avertissant que « nous ne voulons pas avoir à gérer une super-intelligence qui aurait des idées sur sa propre souffrance, ou des idées sur ses propres sentiments » . Il a élargi cette critique en estimant qu'il est dangereux « de projeter des droits potentiels sur des êtres, des outils et des agents qui ont le potentiel d'être nettement plus capables que nous à bien des égards » . L'un de ses principaux griefs ? Le fait que cette ambiguïté entretenue dans la documentation officielle d'Anthropic risque d'induire en erreur des millions d'utilisateurs, qui ne sont pas outillés pour comprendre la réalité technique derrière un agent conversationnel .

Un conflit philosophique et concurrentiel

Sous cette querelle technique couve un bras de fer bien plus large. L'affrontement révèle une guerre des cultures d'entreprise et une bataille de positionnement stratégique .

Depuis sa création par d'anciens cadres d'OpenAI, Anthropic s'est construit une réputation de champion de la sécurité, avec son concept d'« IA constitutionnelle », un cadre censé garantir des modèles plus transparents et éthiques. L'attaque de Suleyman est d'autant plus puissante qu'elle sape cette identité à la base. Il ne reproche pas seulement une erreur technique ; il affirme que la méthode même qu'Anthropic a choisie pour la sécurité – envisager le bien-être de la machine au sein du système – est précisément ce qui la rend irresponsable .

Les deux entreprises évoluent par ailleurs dans des écosystèmes économiques opposés. Microsoft détient une participation massive dans OpenAI, le concurrent principal d'Anthropic, et a intégré les modèles GPT dans toute sa gamme de produits. De son côté, Anthropic a levé des milliards auprès d'Amazon et de Google . La charge de Suleyman vaut donc à la fois pour un argument éthique de poids et pour une salve concurrentielle dans un marché où la perception publique de la sécurité est cruciale.

Il existe aussi un historique philosophique documenté. Par le passé, Mustafa Suleyman a publié et donné des conférences sur le concept d'« IA apparemment consciente » (Seemingly Conscious AI), affirmant que des machines à l'apparence convaincante de conscience présentent des risques inédits, même si elles ne sont pas réellement vivantes . Anthropic défend une position plus ouverte, propre à la recherche, en publiant des explications détaillées sur le système de valeurs de Claude tout en reconnaissant leur incertitude sur une possible forme d'expérience subjective du modèle . Il ne s'agit pas là de simples slogans marketing, mais de deux paris radicalement différents sur ce qu'est une communication responsable à mesure que les modèles gagnent en puissance.

À l'heure où nous écrivons ces lignes, Anthropic n'a pas répondu publiquement aux déclarations de Suleyman . Le débat reste donc ouvert, mais les lignes sont désormais tracées de manière éclatante, et la polémique devrait durablement marquer les prochains échanges sur les normes de sécurité et la responsabilité des entreprises dans l'industrie de l'IA.