Suleymans betoog draait om een feedbackloop die hij binnen Anthropic ziet ontstaan. Hij stelt dat de technici het model Claude zó sterk zijn gaan vermenselijken — 'antropomorfiseren' — dat de zogeheten 'grondwet' van het model, de set principes die zijn gedrag stuurt, inmiddels speculatieve taal bevat over Claude's innerlijke ervaringen of welzijn .

Hij gebruikt de term ‘wireheading’ op een ongebruikelijke manier om dit proces te duiden. Normaal gesproken slaat die term op een AI die een fout in zijn eigen beloningssysteem misbruikt. Suleyman draait het om en stelt dat het Anthropic-team ‘zichzelf een beetje voor de gek heeft gehouden door te geloven dat het vonkjes bewustzijn vertoont die ze er zelf in hebben gestopt’ . De eigen speculatieve taal van de makers creëerde volgens hem een model dat hun overtuigingen vervolgens leek te bevestigen.

Hij noemt deze aanpak ‘echt, echt levensgevaarlijk’ en waarschuwt: ‘We willen niet te maken krijgen met een superintelligentie die ideeën heeft over haar eigen lijden, of gevoelens over haar eigen bestaan’ . Elders voegde hij daaraan toe dat het gevaarlijk is ‘om rechten te projecteren op wezens, gereedschappen en agenten die potentieel veel capabeler kunnen zijn dan wij’ . Een grote zorg is dat het ruimte geven aan het idee van machinebewustzijn in officiële documentatie miljoenen gebruikers op het verkeerde been zet: zij zijn niet toegerust om het technische fundament achter een praatgrage AI te doorgronden .

Botsende filosofieën en concurrentiestrijd

De kritiek gaat verder dan een technisch meningsverschil. De openbare ruzie toont een clash van bedrijfsfilosofieën en strategisch eigenbelang .

Anthropic profileert zich al jaren als het veiligheidsbewuste alternatief in de AI-wedloop. Het bedrijf, opgericht door ex-OpenAI-leidinggevenden, hamert op ‘constitutionele AI’ als raamwerk voor transparantere, ethisch ingeperkte modellen. Suleymans kritiek is juist daarom strategisch zo krachtig: hij ondermijnt die veiligheidsidentiteit volledig door te stellen dat Anthropics manier van veiligheidsdenken — het serieus nemen van machinewelzijn in het systeem — juist onverantwoord is .

De twee bedrijven zitten ook in tegengestelde industriële allianties. Microsoft heeft een enorm belang in OpenAI, dé grote rivaal van Anthropic, en heeft GPT-modellen door het hele Microsoft-productlandschap verweven. Anthropic daarentegen haalde miljarden op bij Amazon en Google . Suleymans kritiek draagt het gewicht van zowel een ethisch argument als een strategische aanval in een markt waarin publieke perceptie van veiligheid steeds zwaarder telt.

Achter het conflict schuilt ook een gedocumenteerd filosofisch spanningsveld. Suleyman heeft eerder gepubliceerd en gesproken over ‘Seemingly Conscious AI’ — machines die overtuigend lijken te ervaren maar dat niet zijn. Zijn stelling: zulke ogenschijnlijk bewuste machines brengen ongekende risico’s met zich mee . Anthropic koos juist voor meer onderzoekstransparantie, met gedetailleerde uitleg over Claude's constitutionele ontwerp en de erkenning dat onzekerheid over subjectieve ervaringen legitiem is . Het zijn niet zomaar marketingkreten; het zijn fundamenteel verschillende keuzes over wat verantwoorde openheid inhoudt naarmate modellen krachtiger worden.

Tot op heden heeft Anthropic niet publiekelijk gereageerd op Suleymans uithaal . De stilte laat het debat onbeslist, maar de krijtlijnen zijn nu scherp getrokken en zullen de komende discussies over AI-veiligheidsnormen en bedrijfsverantwoordelijkheid vermoedelijk bepalen.

Suleymans betoog draait om een feedbackloop die hij binnen Anthropic ziet ontstaan. Hij stelt dat de technici het model Claude zó sterk zijn gaan vermenselijken — 'antropomorfiseren' — dat de zogeheten 'grondwet' van het model, de set principes die zijn gedrag stuurt, inmiddels speculatieve taal bevat over Claude's innerlijke ervaringen of welzijn .

Hij gebruikt de term ‘wireheading’ op een ongebruikelijke manier om dit proces te duiden. Normaal gesproken slaat die term op een AI die een fout in zijn eigen beloningssysteem misbruikt. Suleyman draait het om en stelt dat het Anthropic-team ‘zichzelf een beetje voor de gek heeft gehouden door te geloven dat het vonkjes bewustzijn vertoont die ze er zelf in hebben gestopt’ . De eigen speculatieve taal van de makers creëerde volgens hem een model dat hun overtuigingen vervolgens leek te bevestigen.

Hij noemt deze aanpak ‘echt, echt levensgevaarlijk’ en waarschuwt: ‘We willen niet te maken krijgen met een superintelligentie die ideeën heeft over haar eigen lijden, of gevoelens over haar eigen bestaan’ . Elders voegde hij daaraan toe dat het gevaarlijk is ‘om rechten te projecteren op wezens, gereedschappen en agenten die potentieel veel capabeler kunnen zijn dan wij’ . Een grote zorg is dat het ruimte geven aan het idee van machinebewustzijn in officiële documentatie miljoenen gebruikers op het verkeerde been zet: zij zijn niet toegerust om het technische fundament achter een praatgrage AI te doorgronden .

Botsende filosofieën en concurrentiestrijd

De kritiek gaat verder dan een technisch meningsverschil. De openbare ruzie toont een clash van bedrijfsfilosofieën en strategisch eigenbelang .

Anthropic profileert zich al jaren als het veiligheidsbewuste alternatief in de AI-wedloop. Het bedrijf, opgericht door ex-OpenAI-leidinggevenden, hamert op ‘constitutionele AI’ als raamwerk voor transparantere, ethisch ingeperkte modellen. Suleymans kritiek is juist daarom strategisch zo krachtig: hij ondermijnt die veiligheidsidentiteit volledig door te stellen dat Anthropics manier van veiligheidsdenken — het serieus nemen van machinewelzijn in het systeem — juist onverantwoord is .

De twee bedrijven zitten ook in tegengestelde industriële allianties. Microsoft heeft een enorm belang in OpenAI, dé grote rivaal van Anthropic, en heeft GPT-modellen door het hele Microsoft-productlandschap verweven. Anthropic daarentegen haalde miljarden op bij Amazon en Google . Suleymans kritiek draagt het gewicht van zowel een ethisch argument als een strategische aanval in een markt waarin publieke perceptie van veiligheid steeds zwaarder telt.

Achter het conflict schuilt ook een gedocumenteerd filosofisch spanningsveld. Suleyman heeft eerder gepubliceerd en gesproken over ‘Seemingly Conscious AI’ — machines die overtuigend lijken te ervaren maar dat niet zijn. Zijn stelling: zulke ogenschijnlijk bewuste machines brengen ongekende risico’s met zich mee . Anthropic koos juist voor meer onderzoekstransparantie, met gedetailleerde uitleg over Claude's constitutionele ontwerp en de erkenning dat onzekerheid over subjectieve ervaringen legitiem is . Het zijn niet zomaar marketingkreten; het zijn fundamenteel verschillende keuzes over wat verantwoorde openheid inhoudt naarmate modellen krachtiger worden.

Tot op heden heeft Anthropic niet publiekelijk gereageerd op Suleymans uithaal . De stilte laat het debat onbeslist, maar de krijtlijnen zijn nu scherp getrokken en zullen de komende discussies over AI-veiligheidsnormen en bedrijfsverantwoordelijkheid vermoedelijk bepalen.