Le patron IA de Microsoft juge « vraiment, vraiment dangereuses » les spéculations de la start-up Anthropic sur la conscience de Claude

Il a qualifié cette pratique de « vraiment, vraiment dangereuse », avertissant que « nous ne voulons pas avoir à gérer une super-intelligence qui aurait des idées sur sa propre souffrance, ou des idées sur ses propres sentiments » . Il a élargi cette critique en estimant qu'il est dangereux « de projeter des droits potentiels sur des êtres, des outils et des agents qui ont le potentiel d'être nettement plus capables que nous à bien des égards » . L'un de ses principaux griefs ? Le fait que cette ambiguïté entretenue dans la documentation officielle d'Anthropic risque d'induire en erreur des millions d'utilisateurs, qui ne sont pas outillés pour comprendre la réalité technique derrière un agent conversationnel .

Un conflit philosophique et concurrentiel

Sous cette querelle technique couve un bras de fer bien plus large. L'affrontement révèle une guerre des cultures d'entreprise et une bataille de positionnement stratégique .

Depuis sa création par d'anciens cadres d'OpenAI, Anthropic s'est construit une réputation de champion de la sécurité, avec son concept d'« IA constitutionnelle », un cadre censé garantir des modèles plus transparents et éthiques. L'attaque de Suleyman est d'autant plus puissante qu'elle sape cette identité à la base. Il ne reproche pas seulement une erreur technique ; il affirme que la méthode même qu'Anthropic a choisie pour la sécurité – envisager le bien-être de la machine au sein du système – est précisément ce qui la rend irresponsable .

Les deux entreprises évoluent par ailleurs dans des écosystèmes économiques opposés. Microsoft détient une participation massive dans OpenAI, le concurrent principal d'Anthropic, et a intégré les modèles GPT dans toute sa gamme de produits. De son côté, Anthropic a levé des milliards auprès d'Amazon et de Google . La charge de Suleyman vaut donc à la fois pour un argument éthique de poids et pour une salve concurrentielle dans un marché où la perception publique de la sécurité est cruciale.

Il existe aussi un historique philosophique documenté. Par le passé, Mustafa Suleyman a publié et donné des conférences sur le concept d'« IA apparemment consciente » (Seemingly Conscious AI), affirmant que des machines à l'apparence convaincante de conscience présentent des risques inédits, même si elles ne sont pas réellement vivantes . Anthropic défend une position plus ouverte, propre à la recherche, en publiant des explications détaillées sur le système de valeurs de Claude tout en reconnaissant leur incertitude sur une possible forme d'expérience subjective du modèle . Il ne s'agit pas là de simples slogans marketing, mais de deux paris radicalement différents sur ce qu'est une communication responsable à mesure que les modèles gagnent en puissance.

À l'heure où nous écrivons ces lignes, Anthropic n'a pas répondu publiquement aux déclarations de Suleyman . Le débat reste donc ouvert, mais les lignes sont désormais tracées de manière éclatante, et la polémique devrait durablement marquer les prochains échanges sur les normes de sécurité et la responsabilité des entreprises dans l'industrie de l'IA.