Waarom Sam Altman waarschuwt voor AI als religieuze autoriteit

Sam Altman zegt dat hij zich „erg ongemakkelijk” voelt bij pogingen om AI-modellen „religieuze macht” toe te kennen of menselijk oordeel aan ze over te laten. Dat noemde de OpenAI-topman „een reëel veiligheidsprobleem”. Hij noemde Anthropic niet in zijn bericht, maar doordat het kort na berichtgeving over gesprekken van dat bedrijf met religieuze denkers verscheen, werd het gelezen als een indirecte sneer. 71

Daarbij is een belangrijk onderscheid: nadenken over hoe AI zich hoort te gedragen, of over de vraag of een model bewustzijn kan hebben, is niet hetzelfde als mensen oproepen het als spirituele autoriteit te zien. Volgens de berichtgeving onderzocht Anthropic die eerste vragen. Medeoprichter Christopher Olah zei dat hij oprecht niet weet of AI-modellen bewust zijn. 1

Waar Altman voor waarschuwt

In zijn bericht brengt Altman twee zorgen samen: AI behandelen alsof het religieuze macht heeft, en het eigen oordeel aan een model overdragen. Die combinatie noemt hij een veiligheidskwestie. Omdat hij geen bedrijf of project bij naam noemde, is de koppeling met Anthropic een interpretatie op basis van de timing en de berichtgeving eromheen, geen rechtstreekse beschuldiging. 7

De zorg gaat verder dan religie alleen. Als mensen de zelfverzekerde, menselijk klinkende antwoorden van een model als gezaghebbend zien, kunnen ze het meer invloed geven dan de aangetoonde kennis ervan rechtvaardigt. De berichtgeving vermeldt Altmans waarschuwing, maar stelt niet vast hoe vaak dit gebeurt of wat de gevolgen zijn. 67

Waarom Anthropic in beeld kwam

Anthropic raadpleegde religieuze denkers over de manier waarop Claude zich moreel zou moeten gedragen en over de vraag of AI-modellen bewustzijn kunnen hebben. Die onderwerpen raken aan Altmans waarschuwing, waardoor zijn bericht als reactie op het werk van Anthropic werd opgevat. 17

Maar die onderwerpen zijn niet hetzelfde. Olah zei: „We weten niet of AI-modellen bewust zijn”, en voegde eraan toe dat hij daar oprecht onzeker over is. Praten over mogelijk bewustzijn bewijst niet dat een model subjectieve ervaringen heeft. En advies vragen aan religieuze denkers over moreel gedrag geeft een model op zichzelf geen religieuze status. 1

Bewustzijn en moreel gedrag zijn verschillende vragen

Een model kan richtlijnen krijgen voor de manier waarop het moet reageren. Dat betekent niet dat daarmee is aangetoond dat het een innerlijk leven heeft. De gesprekken bij Anthropic gingen volgens de berichtgeving zowel over Claude’s gedrag als over mogelijk bewustzijn; die onderwerpen moeten niet op één hoop worden gegooid. 1

De berichtgeving vermeldt ook kritiek op het trainen van modellen alsof ze bewust zijn: een bestuurder van Microsoft waarschuwde dat dit gevaarlijk kan zijn. Dat is een geuite zorg, geen antwoord op de bredere vraag of machines bewustzijn kunnen hebben. Olah zei juist dat hij het niet weet. 91

Menselijke waardigheid en toezicht

Paus Leo XIV plaatste menselijke waardigheid centraal in zijn encycliek over AI. Volgens de berichtgeving riep het document op tot sterker toezicht op AI-bedrijven, bescherming voor werknemers die door technologische veranderingen worden geraakt en maatregelen tegen nepnieuws dat met AI wordt gemaakt. Die punten onderstrepen waarom menselijke belangen en verantwoordelijkheid centraal moeten blijven staan bij de ontwikkeling en het gebruik van AI. 152

OpenAI ligt zelf ook onder een vergrootglas

De discussie speelde terwijl OpenAI met afzonderlijke kritiek te maken kreeg. Business Insider meldde dat veiligheidsmedewerker David Robinson het bedrijf verliet en kritiek uitte op zijn veiligheidsbeleid. De BBC berichtte dat OpenAI drie onderzoekers ontsloeg wegens vermeende onzorgvuldige omgang met informatie. Deze berichten beantwoorden niet de vraag of AI-modellen bewust kunnen zijn, maar vormen wel relevante context bij de beoordeling van het bestuur en de uitspraken van beide bedrijven. 1226

De voorzichtigste conclusie is dan ook beperkt: Altman waarschuwde ervoor AI-modellen religieuze autoriteit toe te kennen of menselijk oordeel eraan over te laten. De gemelde gesprekken van Anthropic riepen verwante vragen op over Claude’s morele gedrag en mogelijk bewustzijn. De beschikbare berichtgeving toont echter niet aan dat Anthropic Claude religieuze autoriteit gaf, of dat de kwestie van AI-bewustzijn is opgelost. 71