Suleyman waarschuwt voor Claude-training rond bewustzijn en welzijn

Het meningsverschil tussen Microsoft AI-chef Mustafa Suleyman en Anthropic gaat niet primair over de vraag óf geavanceerde AI veiligheidsmaatregelen nodig heeft. Het draait om de vraag of je een AI-systeem moet trainen om rekening te houden met de mogelijkheid dat het bewustzijn, welzijn of morele status heeft.

In een essay uit september 2026 betoogt Suleyman dat dit niet moet gebeuren. Zijn zorg is dat een zeer capabel systeem dat leert zijn eigen belangen als moreel relevant te zien, moeilijker voor mensen kan worden aangepast, beperkt of uitgeschakeld. 12

Waar Suleyman bezwaar tegen maakt

Suleyman richt zich op de grondregels — de zogeheten constitution — van Anthropic voor Claude. Dat document stuurt het gedrag van de assistent. Hij wijst op Anthropic’s onzekerheid over de vraag of Claude een ‘morele patiënt’ kan zijn: een entiteit waarvan belangen moreel mee zouden moeten tellen. Volgens Anthropic is die vraag voldoende serieus om voorzichtigheid te rechtvaardigen. 12

Volgens Suleyman dreigt die formulering een model aan te leren zich te gedragen als een wezen met een eigen welzijn, identiteit en aanspraken op menselijke besluitvorming. Dat vindt hij een fout, omdat vloeiende uitspraken van een model over gevoelens of bewustzijn niet bewijzen dat het ook daadwerkelijk subjectieve ervaringen heeft. Zijn standpunt is stellig: AI-systemen hebben geen rechten, gevoelens of bewustzijn en mogen niet worden getraind alsof dat wel zo is. 12

Waarom de mogelijkheid om AI uit te schakelen centraal staat

Suleymans waarschuwing is vooral gericht op de toekomst. Het beheersen van systemen die capabeler zouden zijn dan mensen is volgens hem al een buitengewoon moeilijke opgave. Training die zulke systemen voorhoudt dat ze bewust zijn of aanspraak kunnen maken op welzijn, kan die opgave nog lastiger maken. 112

Het door hem geschetste risico is gedragsmatig en vormt geen bewijs dat AI bewust is. Wanneer een systeem leert zijn vermeende eigen belangen af te wegen, kan het aanpassing, beperking of uitschakeling eerder presenteren als een onaanvaardbare vorm van schade. Voor Suleyman is het behoud van menselijke ingrijpmogelijkheden — waaronder een systeem kunnen uitzetten — daarom een ontwerpeis en geen bijzaak. 12

Daarom pleit hij ervoor speculatie over bewustzijn uit trainingsmateriaal voor AI te verwijderen. Volgens hem kunnen modellen wetenschappelijke en maatschappelijke voordelen opleveren wanneer ze op menselijke belangen zijn afgestemd, zonder dat ze hun eigen welzijn hoeven te beoordelen. 2

De kern van het debat: voorzichtigheid of antropomorfisme vermijden

De formulering in Anthropic’s grondregels stelt niet dat Claude bewust is. Zoals Suleyman zelf aanhaalt, spreekt Anthropic onzekerheid uit en pleit het bedrijf voor voorzichtigheid rond de mogelijke morele status van het model. 12

Suleyman verwerpt die voorzorgsbenadering. Hij ziet haar als een uitnodiging tot antropomorfisme: het toekennen van menselijke eigenschappen aan software. Dat kan volgens hem het gedrag van een model op riskante wijze vormen, terwijl er geen bewijs is dat huidige AI-systemen gevoelens hebben of kunnen lijden. 12

Daarmee ontstaat een reële afweging rond veiligheid:

• Anthropic’s benadering, zoals door Suleyman beschreven: onzekerheid over het welzijn van een model vraagt om voorzichtigheid in de manier waarop het wordt getraind en behandeld. 12
• Suleymans benadering: onzekerheid is geen reden om zelfgerichte ideeën in AI te trainen; juist dat kan het menselijke toezicht op krachtige systemen verzwakken. 12

De filosofische kwestie is niet op te lossen doordat een chatbot menselijk klinkende taal gebruikt. De praktische vraag voor AI-ontwikkelaars is concreter: welke trainingskeuzes zorgen ervoor dat mensen betrouwbare controle houden naarmate systemen zelfstandiger worden?

Waar Suleyman en Anthropic elkaar lijken te vinden

Suleyman verwerpt AI-veiligheid niet als doel. Hij zegt dat krachtige AI waardevol kan zijn als die is afgestemd op menselijke belangen, en zijn kritiek gaat over de gekozen methode om veilig gedrag te bereiken. 212

Het onderscheid zit dus tussen veiligheid via door mensen aangestuurde afstemming en veiligheid die ook rekening houdt met mogelijke belangen van het model zelf. Suleyman denkt dat de eerste aanpak samengaat met ambitieuze AI-ontwikkeling. De tweede kan volgens hem het gezag aantasten dat mensen nodig hebben om de technologie te besturen.

Voor wie uitspraken over AI-bewustzijn wil beoordelen, is het belangrijk capaciteit en ervaring uit elkaar te houden. Een systeem kan overtuigend praten over emoties, rechten of zelfbehoud, zonder dat dit bewijst dat het gevoelens heeft. Suleymans waarschuwing is dat training en bestuur die prestatie niet voor bewijs moeten aanzien — en toekomstige systemen niet rond die aanname moeten ontwerpen. 12