Suleymans argumentation kretsar kring vad han ser som en problematisk återkopplingsloop inom Anthropic. Han menar att företagets ingenjörer har mänskliggjort Claude i så hög grad under designprocessen att modellens "konstitution" – de beteendeprinciper som styr dess svar – nu innehåller spekulativt språk om att Claude potentiellt skulle kunna ha inre upplevelser eller ett välbefinnande .

Han använde termen "wireheading" på ett okonventionellt sätt för att beskriva dynamiken. Vanligtvis syftar termen på när en AI utnyttjar en svaghet i sin egen belöningsmekanism, men Suleyman menade att Anthropics team "på sätt och vis lurade sig själva att tro att den har de där glimtarna av medvetande som de själva lade in från början" . Enligt honom skapade ingenjörernas egna spekulativa språk en modell som sedan tycktes bekräfta deras föreställningar.

Han kallade agerandet "riktigt, riktigt farligt" och varnade för att "vi vill inte behöva hantera en superintelligens som har idéer om sitt eget lidande, eller idéer om sina egna känslor" . På annat håll utvecklade han sin oro och sade att det är farligt "att projicera potentiella rättigheter på varelser, verktyg och agenter som har potential att bli betydligt mer kapabla än oss själva" . En central farhåga är att spekulationer om maskinmedvetande i officiell dokumentation riskerar att vilseleda miljontals användare som inte har kunskap om den tekniska verkligheten bakom konversations-AI .

En filosofisk och konkurrensmässig krock

Under ytan på kritiken ligger mer än en enkel oenighet om teknisk design. Den offentliga dispyten avslöjar en krock mellan företagskulturer och konkurrensstrategier .

Anthropic har länge marknadsfört sig som det säkerhetsfokuserade alternativet i AI-kapplöpningen. Företaget, som grundades av tidigare toppchefer från Open AI, betonar "konstitutionell AI" som ett ramverk för att bygga mer transparenta och etiskt begränsade modeller. Suleymans kritik är strategiskt kraftfull eftersom den helt undergräver den identiteten. Han menar att Anthropics specifika sätt att närma sig säkerhet – att underhålla tanken på maskiners välbefinnande inuti systemet – är just det som gör dem ansvarslösa .

De båda företagen är också inbäddade i två rivaliserande industriallianser. Microsoft har en massiv andel i Open AI, Anthropics huvudkonkurrent, och har vävt in GPT-modellerna i hela sitt produktutbud. Anthropic å sin sida har tagit in miljarder från Amazon och Google . Suleymans kritik bär därmed tyngden av både ett etiskt argument och en konkurrensmässig bredsida på en marknad där allmänhetens uppfattning om säkerhet blir allt viktigare.

Det finns också en dokumenterad filosofisk historia bakom oenigheten. Suleyman har tidigare publicerat texter och talat om "till synes medveten AI", där han argumenterar för att maskiner som övertygande ger sken av att vara medvetna innebär enorma risker – även om de inte faktiskt är levande . Anthropic har å sin sida intagit en mer forskningsöppen hållning och publicerat detaljerade förklaringar av Claudes konstitutionella design samtidigt som de erkänner osäkerheten kring huruvida modellen skulle kunna ha någon form av subjektiv upplevelse . Detta är inte bara marknadsföringsfraser; det rör sig om genuint olika uppfattningar om vad som utgör ansvarsfull öppenhet i takt med att modellerna blir kraftfullare.

I skrivande stund har Anthropic inte svarat offentligt på Suleymans kommentarer . Tystnaden lämnar debatten olöst, men stridslinjerna har nu dragits upp offentligt på ett sätt som sannolikt kommer att prägla branschens kommande diskussioner om AI-säkerhet och företagsansvar.

Suleymans argumentation kretsar kring vad han ser som en problematisk återkopplingsloop inom Anthropic. Han menar att företagets ingenjörer har mänskliggjort Claude i så hög grad under designprocessen att modellens "konstitution" – de beteendeprinciper som styr dess svar – nu innehåller spekulativt språk om att Claude potentiellt skulle kunna ha inre upplevelser eller ett välbefinnande .

Han använde termen "wireheading" på ett okonventionellt sätt för att beskriva dynamiken. Vanligtvis syftar termen på när en AI utnyttjar en svaghet i sin egen belöningsmekanism, men Suleyman menade att Anthropics team "på sätt och vis lurade sig själva att tro att den har de där glimtarna av medvetande som de själva lade in från början" . Enligt honom skapade ingenjörernas egna spekulativa språk en modell som sedan tycktes bekräfta deras föreställningar.

Han kallade agerandet "riktigt, riktigt farligt" och varnade för att "vi vill inte behöva hantera en superintelligens som har idéer om sitt eget lidande, eller idéer om sina egna känslor" . På annat håll utvecklade han sin oro och sade att det är farligt "att projicera potentiella rättigheter på varelser, verktyg och agenter som har potential att bli betydligt mer kapabla än oss själva" . En central farhåga är att spekulationer om maskinmedvetande i officiell dokumentation riskerar att vilseleda miljontals användare som inte har kunskap om den tekniska verkligheten bakom konversations-AI .

En filosofisk och konkurrensmässig krock

Under ytan på kritiken ligger mer än en enkel oenighet om teknisk design. Den offentliga dispyten avslöjar en krock mellan företagskulturer och konkurrensstrategier .

Anthropic har länge marknadsfört sig som det säkerhetsfokuserade alternativet i AI-kapplöpningen. Företaget, som grundades av tidigare toppchefer från Open AI, betonar "konstitutionell AI" som ett ramverk för att bygga mer transparenta och etiskt begränsade modeller. Suleymans kritik är strategiskt kraftfull eftersom den helt undergräver den identiteten. Han menar att Anthropics specifika sätt att närma sig säkerhet – att underhålla tanken på maskiners välbefinnande inuti systemet – är just det som gör dem ansvarslösa .

De båda företagen är också inbäddade i två rivaliserande industriallianser. Microsoft har en massiv andel i Open AI, Anthropics huvudkonkurrent, och har vävt in GPT-modellerna i hela sitt produktutbud. Anthropic å sin sida har tagit in miljarder från Amazon och Google . Suleymans kritik bär därmed tyngden av både ett etiskt argument och en konkurrensmässig bredsida på en marknad där allmänhetens uppfattning om säkerhet blir allt viktigare.

Det finns också en dokumenterad filosofisk historia bakom oenigheten. Suleyman har tidigare publicerat texter och talat om "till synes medveten AI", där han argumenterar för att maskiner som övertygande ger sken av att vara medvetna innebär enorma risker – även om de inte faktiskt är levande . Anthropic har å sin sida intagit en mer forskningsöppen hållning och publicerat detaljerade förklaringar av Claudes konstitutionella design samtidigt som de erkänner osäkerheten kring huruvida modellen skulle kunna ha någon form av subjektiv upplevelse . Detta är inte bara marknadsföringsfraser; det rör sig om genuint olika uppfattningar om vad som utgör ansvarsfull öppenhet i takt med att modellerna blir kraftfullare.

I skrivande stund har Anthropic inte svarat offentligt på Suleymans kommentarer . Tystnaden lämnar debatten olöst, men stridslinjerna har nu dragits upp offentligt på ett sätt som sannolikt kommer att prägla branschens kommande diskussioner om AI-säkerhet och företagsansvar.