Altman advarer mot å overlate menneskelig dømmekraft til KI

Sam Altman sa at han var «svært ukomfortabel» med at folk tillegger KI-modeller «religiøs kraft» eller overlater menneskelig dømmekraft til dem. Han kalte det en «reell sikkerhetsrisiko». Han nevnte ikke Anthropic i innlegget, men tidspunktet – få dager etter medieoppslag om selskapets møter med religiøse lærde – gjorde at uttalelsen ble tolket som en indirekte kritikk. 71

Det er likevel viktig å skille mellom å diskutere hvordan en KI bør oppføre seg, eller om den kan være bevisst, og å oppfordre folk til å behandle den som en åndelig autoritet. Omtalen av Anthropic beskriver at selskapet har utforsket slike spørsmål. Medgrunnlegger Christopher Olah sa samtidig at han oppriktig ikke vet om KI-modeller er bevisste. 1

Hva Altman advarte mot

I innlegget sitt koblet Altman to bekymringer: å behandle KI som om den hadde religiøs makt, og å gi fra seg menneskelig dømmekraft til en modell. Han omtalte kombinasjonen som et sikkerhetsproblem. Siden han ikke navnga noe selskap eller prosjekt, bygger koblingen til Anthropic på tidspunktet og nyhetsbildet – ikke på en direkte anklage i innlegget. 7

Advarselen favner bredere enn en religionsdebatt. Når folk oppfatter modellens selvsikre, menneskelignende svar som en autoritet, kan de legge mer vekt på rådene enn modellens dokumenterte forståelse tilsier. Omtalen som er vist til, gjengir Altmans advarsel, men fastslår verken hvor utbredt dette er eller hvilke virkninger det har. 67

Derfor vakte Anthropics møter oppsikt

Anthropic rådførte seg med religiøse lærde om hvordan selskapet skulle forme Claudes moralske atferd, og om KI-modeller kan være bevisste. Temaene overlapper med Altmans advarsel, og det er derfor uttalelsen ble lest som en reaksjon på Anthropics arbeid. 17

Men de to spørsmålene er ikke det samme. Olah sa: «Vi vet ikke om KI-modeller er bevisste», og la til at han selv var genuint usikker. Å diskutere mulig bevissthet beviser ikke at en modell har subjektive opplevelser. Og det at religiøse tenkere rådspørres om moralsk atferd, gir ikke i seg selv en modell religiøs status. 1

Bevissthet og moralsk atferd er ulike spørsmål

En modell kan utformes for å følge retningslinjer for hvordan den bør svare, uten at retningslinjene dermed viser at modellen har et indre liv. De omtalte samtalene hos Anthropic berørte både Claudes atferd og mulig bevissthet; dette bør ikke slås sammen til én påstand. 1

Omtalen viser også til innvendinger mot å behandle modeller som bevisste i treningen: En KI-leder i Microsoft advarte om at det kunne være farlig. Det er en uttrykt bekymring, ikke et svar på det større spørsmålet om maskiner kan være bevisste. Olahs egen uttalte posisjon var usikkerhet. 91

Mennesket i sentrum

Pave Leo XIV satte menneskeverdet i sentrum for diskusjonen om KI. Ifølge omtalen av hans encyklika tok dokumentet til orde for sterkere tilsyn med KI-selskaper, vern for arbeidstakere som rammes av omstillinger, og tiltak mot falskt KI-generert innhold. Dette understreker betydningen av å holde menneskers interesser og ansvarlighet sentralt når KI utvikles og tas i bruk. 152

OpenAI møter også kritikk

Debatten pågikk samtidig med separate oppslag om OpenAI. Business Insider meldte at sikkerhetslederen David Robinson sluttet og kritiserte selskapets sikkerhetsarbeid. BBC meldte at OpenAI hadde sagt opp tre forskere etter påstander om feil håndtering av informasjon. Oppslagene avgjør ikke om KI-modeller kan være bevisste, men er relevant bakgrunn når selskapenes påstander og styring vurderes. 1226

Den tydeligste konklusjonen er mer avgrenset enn en dom over Anthropic eller OpenAI: Altman advarte mot å behandle KI-modeller som religiøse autoriteter eller å gi fra seg menneskelig dømmekraft til dem. Anthropics omtalte samtaler reiste beslektede spørsmål om Claudes moralske atferd og mulige bevissthet, men det tilgjengelige grunnlaget viser ikke at samtalene innebar at Claude ble gitt religiøs autoritet – eller at spørsmålet om KI-bevissthet er avgjort. 71