Sam Altman advarer: AI må ikke få religiøs autoritet

Sam Altman siger, at han er »meget utilpas« ved, at mennesker tillægger AI-modeller »religiøs kraft« eller overlader deres dømmekraft til dem. Det er, skrev OpenAI-chefen, »en reel sikkerhedsrisiko«. Han nævnte ikke Anthropic ved navn, men opslaget kom få dage efter omtale af firmaets møder med religiøse tænkere, og flere medier læste det som en indirekte kritik. 71

Det er værd at skelne mellem to ting: at drøfte, hvordan en AI bør opføre sig, eller om den kan være bevidst, er ikke det samme som at bede mennesker om at se den som en åndelig autoritet. De tilgængelige omtaler beskriver Anthropic som optaget af de spørgsmål, mens medstifter Christopher Olah har sagt, at han oprigtigt er usikker på, om AI-modeller er bevidste. 1

Hvad Altman advarede imod

Altman slog to bekymringer sammen: at behandle AI, som om den havde religiøs magt, og at give afkald på menneskelig dømmekraft til fordel for en model. Han kaldte kombinationen et sikkerhedsproblem. Men fordi opslaget ikke nævnte et bestemt firma eller projekt, er koblingen til Anthropic en fortolkning af timingen og den øvrige omtale – ikke en direkte anklage i opslaget. 7

Advarslen handler om mere end religion. Hvis mennesker opfatter en models sikre, menneskelignende svar som en autoritet, kan de komme til at lægge større vægt på den, end dens dokumenterede forståelse berettiger til. Den citerede omtale gengiver Altmans bekymring, men fastslår hverken, hvor udbredt denne adfærd er, eller hvilken effekt den har. 67

Hvorfor Anthropics møder vakte opsigt

Anthropic har rådført sig med religiøse tænkere om, hvordan Claude kan udvikles til at følge moralske retningslinjer, og om AI-modeller overhovedet kan være bevidste. Emnerne overlapper med Altmans advarsel, og derfor blev hans opslag læst som en reaktion på firmaets arbejde. 17

Men forskellen mellem at undersøge et spørgsmål og at konkludere noget er central. Olah sagde: »Vi ved ikke, om AI-modeller er bevidste«, og tilføjede, at han selv oprigtigt var usikker. At drøfte mulig bevidsthed beviser ikke, at en model har subjektive oplevelser. Og det, at Anthropic taler med religiøse tænkere om moralsk adfærd, giver ikke i sig selv Claude religiøs status. 1

Bevidsthed og moralsk adfærd er ikke det samme

En model kan indrettes til at følge retningslinjer for sine svar, uden at det dermed viser, at den har et indre liv. De omtalte samtaler hos Anthropic berørte både Claudes adfærd og spørgsmålet om mulig bevidsthed; de to spørgsmål bør ikke blandes sammen til én påstand. 1

Omtalen beskriver også kritik af at behandle modeller, som om de er bevidste, under træningen: En AI-chef hos Microsoft advarede om, at det kan være farligt. Det er en bekymring, der er blevet rapporteret – ikke et endeligt svar på, om maskiner kan være bevidste. Olah har ifølge omtalen selv understreget, at han er usikker. 91

Mennesket i centrum

Pave Leo XIV satte menneskelig værdighed centralt i diskussionen om AI. Ifølge omtalen af hans encyklika opfordrede han til stærkere tilsyn med AI-virksomheder, beskyttelse af arbejdstagere, der kan blive ramt af omstillinger, og tiltag mod falsk AI-genereret information. Det understreger betydningen af at holde menneskers interesser og ansvarlighed i centrum, når AI udvikles og bruges. 152

OpenAI er også under kritik

Debatten udspillede sig samtidig med særskilte historier om OpenAI. Business Insider skrev, at sikkerhedslederen David Robinson forlod virksomheden og kritiserede dens sikkerhedsarbejde. BBC rapporterede, at OpenAI fyrede tre forskere efter påstået forkert håndtering af oplysninger. Sagerne afgør ikke, om AI-modeller kan være bevidste, men de er relevant baggrund, når virksomhedernes udmeldinger og styring bliver gransket. 1226

Den mest præcise konklusion er derfor ikke en dom over Anthropic eller OpenAI: Altman advarede mod at behandle modeller som religiøse autoriteter eller overlade menneskelig dømmekraft til dem. Anthropics omtalte samtaler rejste beslægtede spørgsmål om Claudes moralske adfærd og mulig bevidsthed. Men den tilgængelige omtale fastslår ikke, at samtalerne gjorde Claude til en religiøs autoritet – eller at spørgsmålet om AI-bevidsthed er afgjort. 71