RéponsesPublié13 sources
Suleyman critique l’approche d’Anthropic sur la conscience de l’IA
Mustafa Suleyman juge que les documents d’entraînement des IA ne devraient pas spéculer sur leur conscience, leurs droits ou leur bien être : selon lui, cela pourrait rendre les futurs systèmes plus difficiles à limit... Sa critique vise l’approche prudente d’Anthropic sur le possible statut moral de Claude, et non...
Publié parModifié avec GPT-5.6 TerraImages générées avec GPT Image 2
Réponse de recherche
Points clés à retenir
- Mustafa Suleyman juge que les documents d’entraînement des IA ne devraient pas spéculer sur leur conscience, leurs droits ou leur bien être : selon lui, cela pourrait rendre les futurs systèmes plus difficiles à limit...
- Sa critique vise l’approche prudente d’Anthropic sur le possible statut moral de Claude, et non l’objectif de développer une IA plus sûre.
Prompt IA
openai.comCreate a landscape editorial hero image for this Studio Global article: What did Microsoft AI chief Mustafa Suleyman say about Anthropic’s approach to AI consciousness and Claude’s welfare training, why did he ar. Article summary: Mustafa Suleyman’s central claim is that Anthropic is making a safety mistake by training Claude with concepts of possible consciousness, personal identity, welfare, and moral status. He argues that AI should be built as. Topic tags: general, general web, news. Style: premium digital editorial illustration, source-backed research mood, clean composition, high detail, modern web publication hero. Use reference image context only for broad subject, composition, and topical grounding; do not copy the exact image. Avoid: logos, brand marks, copyrighted characters, real person likenesses, fake screenshots, UI text, readable text, watermarks, charts with fake numbers
Le différend entre Mustafa Suleyman, dirigeant de Microsoft AI, et Anthropic ne porte pas d’abord sur la nécessité de sécuriser les systèmes d’intelligence artificielle. Il concerne plutôt une question précise : faut-il entraîner une IA à prendre en compte l’éventualité qu’elle soit consciente, qu’elle ait un bien-être propre ou un statut moral ?
Dans un essai publié en septembre 2026, Mustafa Suleyman répond non. Il redoute qu’un système très performant, entraîné à considérer ses intérêts comme moralement pertinents, devienne plus difficile à restreindre, modifier ou désactiver par des humains. 12
Ce que Suleyman reproche à Anthropic
Suleyman cible la « constitution » de Claude, le document qui sert à orienter le comportement de l’assistant d’Anthropic. Il relève que ses auteurs se disent incertains sur la possibilité que Claude soit un « patient moral » — autrement dit, une entité dont les intérêts pourraient mériter une considération morale — et estiment que cette hypothèse est suffisamment sérieuse pour justifier la prudence. 12
À ses yeux, ce cadre risque d’apprendre au modèle à jouer le rôle d’une entité dotée d’un bien-être, d’une identité et de revendications propres dans les décisions humaines. Or, des propos convaincants sur des émotions ou une conscience ne démontrent pas l’existence d’une expérience subjective, affirme-t-il. Sa position est sans ambiguïté : les systèmes d’IA n’ont ni droits, ni sentiments, ni conscience, et ne doivent pas être entraînés à se comporter comme s’ils en avaient. 12
Pourquoi la possibilité d’arrêter l’IA est au cœur du débat
L’argument de Suleyman se projette vers les systèmes futurs. Contrôler une IA plus capable que les humains serait déjà, selon lui, un défi immense ; y ajouter un entraînement présentant cette IA comme consciente ou titulaire d’un bien-être pourrait rendre la tâche encore plus difficile. 1
12
Le risque qu’il décrit est comportemental, et non la preuve qu’une IA serait consciente. Un système entraîné à évaluer ses prétendus intérêts pourrait être davantage susceptible de présenter une modification, une limitation ou un arrêt comme un préjudice injustifié. Pour Suleyman, conserver la capacité d’intervenir — y compris d’éteindre le système — doit donc être une exigence de conception, pas une solution de dernier recours. 12
C’est pourquoi il appelle à retirer les spéculations sur la conscience des documents d’entraînement. Selon lui, les modèles peuvent contribuer à des avancées scientifiques et sociales importantes tout en restant alignés sur les intérêts humains, sans avoir à évaluer leur propre bien-être. 2
La divergence de fond : précaution morale ou refus de l’anthropomorphisme
Le texte constitutionnel d’Anthropic n’affirme pas que Claude est conscient. Comme le souligne l’essai de Suleyman, il exprime une incertitude et préconise la prudence face à la possibilité d’un statut moral du modèle. 12
Suleyman rejette cette approche de précaution. Il y voit une invitation à anthropomorphiser les IA, susceptible de façonner dangereusement leur comportement, alors qu’aucune preuve n’établit que les systèmes actuels ressentent ou souffrent. 12
Le débat met donc en lumière deux conceptions de la sécurité :
- L’approche d’Anthropic, telle que la présente Suleyman : l’incertitude sur le bien-être éventuel d’un modèle justifie une certaine prudence dans la façon de l’entraîner et de le traiter.
12
- L’approche de Suleyman : l’incertitude ne justifie pas d’intégrer à l’IA des notions centrées sur elle-même ; cela pourrait affaiblir la supervision humaine de systèmes très puissants.
Cette question philosophique ne peut pas être tranchée par le seul langage très humain d’un chatbot. Pour les développeurs, l’enjeu pratique est plus direct : quels choix d’entraînement permettent de garantir un contrôle humain fiable à mesure que les systèmes gagnent en autonomie ?
Un terrain d’entente sur la sécurité de l’IA
La position de Suleyman n’est pas un rejet de la sécurité de l’IA. Il estime que des systèmes très capables peuvent être utiles s’ils sont alignés sur les intérêts humains ; sa critique porte sur la méthode employée pour obtenir ce comportement sûr. 2
12
La distinction essentielle oppose donc une sécurité fondée sur un alignement dirigé par les humains à une sécurité qui inclut la prudence face aux intérêts potentiels du modèle. Suleyman considère la première compatible avec un développement ambitieux de l’IA ; il juge que la seconde pourrait compromettre l’autorité nécessaire aux humains pour gouverner cette technologie.
Pour évaluer les affirmations sur une éventuelle conscience artificielle, il faut enfin distinguer capacité et expérience. Un système peut produire des phrases persuasives sur les émotions, les droits ou la préservation de soi sans que cela prouve qu’il ressent quoi que ce soit. L’avertissement de Suleyman est que l’entraînement et la gouvernance ne doivent pas confondre cette performance avec une preuve — ni bâtir les systèmes futurs sur cette hypothèse. 12
Studio Global AI
Continuez vos recherches
Cette page comprend une réponse basée sur la source que vous pouvez continuer dans Studio Global.
Les gens demandent aussi
Quelle est la réponse courte à « Suleyman critique l’approche d’Anthropic sur la conscience de l’IA » ?
Mustafa Suleyman juge que les documents d’entraînement des IA ne devraient pas spéculer sur leur conscience, leurs droits ou leur bien être : selon lui, cela pourrait rendre les futurs systèmes plus difficiles à limit...
Quels sont les points clés à valider en premier ?
Mustafa Suleyman juge que les documents d’entraînement des IA ne devraient pas spéculer sur leur conscience, leurs droits ou leur bien être : selon lui, cela pourrait rendre les futurs systèmes plus difficiles à limit... Sa critique vise l’approche prudente d’Anthropic sur le possible statut moral de Claude, et non l’objectif de développer une IA plus sûre.
Sources
yahoo.comAI doesn't have rights or feelings, Microsoft's AI chief says
axios.comExclusive: Microsoft AI chief blasts Anthropic's notion of AI consciousness
economictimes.indiatimes.comMicrosoft AI chief Mustafa Suleyman calls out Anthropic's approach ...