Altman: Att överlåta mänskligt omdöme till AI är en säkerhetsrisk

Sam Altman säger att han är ”mycket obekväm” med att människor tillskriver AI-modeller ”religiös kraft” eller överlåter sitt omdöme till dem. Han kallar det ”en verklig säkerhetsfråga”. Altman nämnde inte Anthropic i sitt inlägg, men eftersom det kom bara dagar efter rapporter om företagets samtal med religiösa tänkare lästes det som en indirekt kritik. 71

Här är det viktigt att skilja mellan två saker: att fundera över hur en AI bör bete sig eller om den kan vara medveten är inte detsamma som att uppmana människor att behandla den som en andlig auktoritet. Rapporteringen beskriver hur Anthropic har utforskat de frågorna. Medgrundaren Christopher Olah har samtidigt sagt att han är genuint osäker på om AI-modeller är medvetna. 1

Vad Altman varnar för

Altman förde samman två farhågor: att ge AI något slags religiös makt och att lämna över mänskligt omdöme till en modell. Han kallade kombinationen en säkerhetsfråga. Eftersom inlägget inte pekade ut något företag eller projekt är kopplingen till Anthropic en tolkning utifrån nyhetsläget, inte en direkt anklagelse från Altman. 7

Varningen handlar också om mer än religion. Om människor uppfattar en modells självsäkra, människolika svar som en auktoritativ källa kan de ge den större inflytande över beslut än vad dess visade förståelse motiverar. Rapporteringen återger Altmans oro, men visar inte hur vanligt detta är eller mäter vilka effekter det får. 67

Varför Anthropics samtal väckte uppmärksamhet

Anthropic har rådfrågat religiösa tänkare om hur Claude bör vägledas i moraliska frågor och om AI-modeller kan vara medvetna. Ämnena överlappar med Altmans varning, vilket bidrog till att hans inlägg uppfattades som ett svar på företagets arbete. 17

Men skillnaden mellan att undersöka och att slå fast något är central. Olah sade: ”Vi vet inte om AI-modeller är medvetna.” Han tillade att han själv är genuint osäker. Att diskutera möjlig medvetenhet bevisar inte att en modell har subjektiva upplevelser. Inte heller innebär samtal med religiösa tänkare om moral i sig att modellen får religiös status. 1

Medvetande och moral är inte samma fråga

En modell kan utformas för att följa riktlinjer för hur den ska svara utan att riktlinjerna visar att den har ett inre liv. De rapporterade samtalen hos Anthropic rörde både Claudes beteende och frågan om möjlig medvetenhet; de bör inte blandas ihop till ett enda påstående. 1

Rapporteringen tar också upp invändningar mot att träna modeller som om de vore medvetna. En AI-chef på Microsoft varnade för att det kan vara farligt. Det är en återgiven farhåga, inte ett avgörande svar på den större frågan om maskiner kan vara medvetna. Olahs hållning, enligt rapporteringen, var att han är osäker. 91

Människans värdighet i centrum

Påven Leo XIV:s encyklika om AI satte människans värdighet i centrum. Enligt rapporteringen efterlyste dokumentet starkare tillsyn av AI-företag, skydd för arbetstagare som påverkas av tekniken och åtgärder mot falsk information som skapats med AI. Det understryker vikten av att hålla människors intressen och ansvar i fokus när AI utvecklas och används. 152

Även OpenAI granskas

Debatten pågick samtidigt som OpenAI fick utstå separat granskning. Business Insider rapporterade att säkerhetschefen David Robinson lämnade bolaget och kritiserade dess säkerhetsarbete. BBC rapporterade att OpenAI avskedade tre forskare efter anklagelser om felaktig hantering av information. De uppgifterna besvarar inte frågan om AI kan vara medveten, men utgör relevant bakgrund när bolagens uttalanden och styrning diskuteras. 1226

Den försiktigaste slutsatsen är alltså inte en dom över Anthropic eller OpenAI. Altman varnade för att behandla modeller som religiösa auktoriteter eller lämna över mänskligt omdöme till dem. Anthropics rapporterade samtal väckte närliggande frågor om Claudes moraliska beteende och möjlig medvetenhet, men det tillgängliga underlaget visar inte att samtalen innebar att Claude gavs religiös auktoritet – eller att frågan om AI-medvetande är avgjord. 71