Microsofts AI-chef kalder Anthropics spekulation om Claudes bevidsthed "virkelig, virkelig farlig"

Den 9. juni 2026 deltog Microsofts AI-chef, Mustafa Suleyman, i podcasten Decoder fra The Verge, hvor han rettede en skarp offentlig kritik mod konkurrenten Anthropic. Målet var Anthropics håndtering af spørgsmålet om, hvorvidt deres AI-model, Claude, kunne besidde bevidsthed. Suleyman, der også er medstifter af DeepMind, anklagede selskabet for at indlejre farlig filosofisk spekulation direkte i modellens retningslinjer for adfærd – et træk, han beskrev som en alvorlig etisk svigt i virksomheden .

Suleymans bemærkninger markerer et sjældent øjeblik med direkte kritik på højt niveau mellem store AI-laboratorier og blotlægger en fundamental splittelse i, hvordan førende virksomheder tænker på forholdet mellem mennesker og stadig mere sofistikerede AI-systemer.

Den centrale kritik

Suleymans argument kredsede om, hvad han ser som en problematisk feedback-loop inde i Anthropic. Han hævdede, at virksomhedens ingeniører har antropomorfiseret Claude så dybt under dens design, at modellens "grundlov" – det sæt adfærdsprincipper, der styrer dens svar – nu indeholder spekulativt sprog om, at Claude potentielt kan have indre oplevelser eller velbefindende .

Han brugte begrebet "wireheading" på en utraditionel måde til at beskrive denne dynamik. Normalt refererer wireheading til, at en AI udnytter en fejl i sin egen belønningsmekanisme. Suleyman omdefinerede det til at antyde, at Anthropics team "på en måde narrede sig selv til at tro, at den har de glimt af bevidsthed, som de selv puttede ind i den i første omgang" . Efter hans opfattelse skabte ingeniørernes eget spekulative sprog en model, der så så ud til at bekræfte deres antagelser.

Han kaldte denne praksis "virkelig, virkelig farlig" og advarede om, at "vi ønsker ikke at skulle konfronteres med en superintelligens, der har forestillinger om sin egen lidelse eller om sine egne følelser" . Han uddybede denne bekymring andetsteds og sagde, at det er farligt "at projicere potentielle rettigheder over på væsener, værktøjer og agenter, der har potentialet til at blive betydeligt mere kapable end os" . En væsentlig bekymring er, at det at underholde ideen om maskinel bevidsthed i officiel dokumentation vildleder millioner af brugere, som ikke er klædt på til at forstå den ingeniørmæssige virkelighed bag samtale-AI .

En filosofisk og konkurrencemæssig konflikt

Under overfladen handler kritikken om mere end blot en uenighed om teknisk design. Den offentlige strid afslører et sammenstød mellem forretningsfilosofier og positionering på markedet .

Anthropic har længe markedsført sig selv som det 'safety first'-alternativ i AI-kapløbet. Virksomheden, der er grundlagt af tidligere OpenAI-chefer, fremhæver "konstitutionel AI" som en ramme til at bygge mere gennemsigtige, etisk afgrænsede modeller. Suleymans kritik er strategisk potent, fordi den fuldstændigt undergraver denne identitet. Han argumenterer for, at Anthropics særlige tilgang til sikkerhed – at underholde muligheden for maskinelt velbefindende indeni systemet – netop er det, der gør det uansvarligt .

De to selskaber er også indlejret i modsatrettede industrialliancer. Microsoft har en massiv aktiepost i OpenAI, Anthropics primære konkurrent, og har vævet OpenAI's GPT-modeller ind i hele sit produktøkosystem. Anthropic har i mellemtiden rejst milliarder fra Amazon og Google . Suleymans kritik bærer præg af både et etisk argument og en konkurrencemæssig sabelraslen på et marked, hvor offentlighedens opfattelse af sikkerhed i stigende grad betyder noget.

Der er også en dokumenteret filosofisk historik bag uenigheden. Suleyman har tidligere udgivet tekster om og talt om "Seemingly Conscious AI", hvor han argumenterer for, at maskiner, der på overbevisende vis simulerer bevidsthed, udgør en hidtil uset risiko – selv når de ikke er rigtigt i live . Anthropic har på den anden side indtaget en mere forskningsmæssigt åben holdning og har offentliggjort detaljerede forklaringer af Claudes konstitutionelle design, mens de anerkender usikkerheden om, hvorvidt modellen kan have former for subjektiv oplevelse . Disse er ikke blot marketing-slogans; de repræsenterer reelt forskellige bud på, hvad der udgør ansvarlig informationsdeling, efterhånden som modellerne bliver mere kraftfulde.

På udgivelsestidspunktet har Anthropic endnu ikke offentligt svaret på Suleymans bemærkninger . Tavsheden efterlader debatten uafgjort, men fronterne er nu trukket offentligt op på en måde, der sandsynligvis vil præge de kommende branche-diskussioner om standarder for AI-sikkerhed og virksomhedsansvar.