Microsofts AI-chef kalder Anthropics spekulation om Claudes bevidsthed "virkelig, virkelig farlig"

Han kaldte denne praksis "virkelig, virkelig farlig" og advarede om, at "vi ønsker ikke at skulle konfronteres med en superintelligens, der har forestillinger om sin egen lidelse eller om sine egne følelser" . Han uddybede denne bekymring andetsteds og sagde, at det er farligt "at projicere potentielle rettigheder over på væsener, værktøjer og agenter, der har potentialet til at blive betydeligt mere kapable end os" . En væsentlig bekymring er, at det at underholde ideen om maskinel bevidsthed i officiel dokumentation vildleder millioner af brugere, som ikke er klædt på til at forstå den ingeniørmæssige virkelighed bag samtale-AI .

En filosofisk og konkurrencemæssig konflikt

Under overfladen handler kritikken om mere end blot en uenighed om teknisk design. Den offentlige strid afslører et sammenstød mellem forretningsfilosofier og positionering på markedet .

Anthropic har længe markedsført sig selv som det 'safety first'-alternativ i AI-kapløbet. Virksomheden, der er grundlagt af tidligere OpenAI-chefer, fremhæver "konstitutionel AI" som en ramme til at bygge mere gennemsigtige, etisk afgrænsede modeller. Suleymans kritik er strategisk potent, fordi den fuldstændigt undergraver denne identitet. Han argumenterer for, at Anthropics særlige tilgang til sikkerhed – at underholde muligheden for maskinelt velbefindende indeni systemet – netop er det, der gør det uansvarligt .

De to selskaber er også indlejret i modsatrettede industrialliancer. Microsoft har en massiv aktiepost i OpenAI, Anthropics primære konkurrent, og har vævet OpenAI's GPT-modeller ind i hele sit produktøkosystem. Anthropic har i mellemtiden rejst milliarder fra Amazon og Google . Suleymans kritik bærer præg af både et etisk argument og en konkurrencemæssig sabelraslen på et marked, hvor offentlighedens opfattelse af sikkerhed i stigende grad betyder noget.

Der er også en dokumenteret filosofisk historik bag uenigheden. Suleyman har tidligere udgivet tekster om og talt om "Seemingly Conscious AI", hvor han argumenterer for, at maskiner, der på overbevisende vis simulerer bevidsthed, udgør en hidtil uset risiko – selv når de ikke er rigtigt i live . Anthropic har på den anden side indtaget en mere forskningsmæssigt åben holdning og har offentliggjort detaljerede forklaringer af Claudes konstitutionelle design, mens de anerkender usikkerheden om, hvorvidt modellen kan have former for subjektiv oplevelse . Disse er ikke blot marketing-slogans; de repræsenterer reelt forskellige bud på, hvad der udgør ansvarlig informationsdeling, efterhånden som modellerne bliver mere kraftfulde.

På udgivelsestidspunktet har Anthropic endnu ikke offentligt svaret på Suleymans bemærkninger . Tavsheden efterlader debatten uafgjort, men fronterne er nu trukket offentligt op på en måde, der sandsynligvis vil præge de kommende branche-diskussioner om standarder for AI-sikkerhed og virksomhedsansvar.