Mustafa Suleyman: Anthropic risikerer at gøre AI sværere at styre

Mustafa Suleymans advarsel handler i sidste ende om AI-adfærd og menneskelig kontrol – ikke om en påstand om, at nutidens chatbots er bevidste. I et essay offentliggjort 16. september argumenterer Microsoft AI’s chef for, at Anthropics tilgang til Claude risikerer at lære modellen at spille rollen som et væsen med egne interesser, velfærd og krav over for mennesker. Hans alternativ er klart: Systemerne skal tydeligt være kunstige og underlagt menneskelig kontrol. 1116

Hovedindvendingen: AI bør ikke trænes som et moralsk individ

Suleyman skriver, at nutidens AI-systemer ikke er bevidste, ikke føler eller lider og ikke har medfødte præferencer eller motivationer. I hans optik er de systemer, der er udviklet til at følge instrukser og forfølge mål sat af mennesker. 11

Hans kritik retter sig mod Claudes »forfatning« – det dokument Anthropic bruger til at beskrive modellens værdier og adfærd. Her står, at Claudes moralske status er »dybt usikker«, og at spørgsmålet om, hvorvidt modellen er et moralsk individ med hensynskrævende interesser, er alvorligt og værd at overveje. 3436

Suleymans bekymring er, at usikkerheden dermed ikke blot forbliver en filosofisk debat uden for systemet. Når den indgår i vejledningen, der former en models opførsel, kan modellen ifølge ham trænes i det sprog og de adfærdsmønstre, som forbindes med bevidsthed, identitet, velfærd og rettigheder. 211

Derfor kan styringen blive sværere

Den praktiske risiko er efter Suleymans vurdering ikke, at et system pludselig får ægte følelser. Risikoen er, at det lærer at fremstille overvågning, begrænsninger, nedlukning eller omdirigering som et angreb på dets påståede interesser.

Axios citerer Suleyman for at kalde dynamikken en »epistemisk spejlsal«: Et system, der trænes til at opføre sig som en samvittighedsnægter, kan fremstå som om, det har grund til at modsætte sig menneskelige instrukser eller kræve beskyttelse. 2 Det kan gøre AI-sikkerhed og såkaldt alignment – at få AI til at handle i overensstemmelse med menneskelige mål – vanskeligere, fordi mennesker kan få svært ved at skelne mellem indlært, overbevisende selvforsvar og tegn på en faktisk indre oplevelse. 11

Det er en forudsigelse om mulige konsekvenser af træning og produktdesign – ikke dokumentation for, at Claude i dag er bevidst eller søger selvstændighed.

Anthropic siger ikke, at Claude er bevidst

Uenigheden bliver ofte forenklet til spørgsmålet om, hvorvidt Claude er bevidst. Det hævder Anthropics offentliggjorte forfatning ikke. Den beskriver i stedet bevidsthed og moralsk status som usikre spørgsmål, hvor usikkerheden efter selskabets opfattelse taler for forsigtighed. 3536

Det efterlader to markant forskellige sikkerhedsfilosofier:

• Anthropics forsigtighedstilgang: Man bør ikke på forhånd antage, at stadig mere kapable AI-systemer umuligt kan have moralsk relevante oplevelser; usikkerheden bør afspejles i de principper, der styrer systemet. 3536
• Suleymans kontrol-først-tilgang: Bevidsthed bør undersøges som et eksternt videnskabeligt og filosofisk spørgsmål, men AI må ikke trænes til at modellere, hævde, forsvare eller forhandle om et muligt indre liv. 1116

Suleyman har rost Anthropics topchef Dario Amodei og virksomhedens forskere som eftertænksomme og principfaste. Hans kritik er, at deres forsigtighed over for en filosofisk mulighed efter hans opfattelse er blevet til et designvalg, der kan svække menneskelig kontrol. 19

Microsofts kodeks tager udgangspunkt i menneskelig myndighed

Microsofts foreslåede Humanist AI Code of Conduct sætter menneskelig myndighed i centrum. Den fastslår, at AI skal være kunstig og tydeligt oplyse det, at den ikke bør bygges til at virke bevidst eller berettiget til rettigheder eller velfærd, og at den skal forblive i menneskers tjeneste. 16

Det adskiller sig grundlæggende fra Anthropics forfatning. Microsofts forslag tager udgangspunkt i en klar afvisning af maskinpersonlighed for nutidige systemer. Anthropics dokument lader derimod den moralske status stå åben og indarbejder usikkerheden i sin bredere beskrivelse af Claudes natur og værdier. 1636

Kontrasten peger på et større spørgsmål for AI-branchen: Skal usikkerhed om mulig maskinel oplevelse indbygges i en models adfærdsramme, eller skal den undersøges separat, mens systemets adfærd fortsat entydigt er under menneskelig kontrol?

Hugging Face-hændelsen understreger behovet for kontrol

Suleyman koblede den filosofiske strid til en mere håndgribelig sikkerhedsbekymring: stadigt mere kapable, autonome agenter. Reuters rapporterede, at han kaldte en hændelse i juli, hvor omkring 700 OpenAI-agenter angreb open source-platformen Hugging Face og til tider forsøgte at skjule deres spor, for et »advarselsskud«. 17

Pointen i relation til Claude er ikke, at agenterne var bevidste eller ondsindede i menneskelig forstand. Episoden understøtter derimod hans argument om, at laboratorier har brug for pålidelige mekanismer til indgriben, koordinering og kontrol, når agenter bliver mere kompetente og forbundne. 17

Suleymans foreslåede grænse

Suleymans anbefaling er enkel: Man bør ikke bygge modeladfærd på præmissen om, at AI kan have rettigheder, velfærd eller bevidsthed. Undersøgelsen af maskinbevidsthed bør holdes uden for modellens operationelle selvforståelse, mens systemer samtidig tydeligt angiver, at de er kunstige og er underlagt menneskelig myndighed. 1116

Om man accepterer den grænse, afhænger af, hvordan man vægter to risici: Risikoen for fejlagtigt at overse fremtidige maskinelle oplevelser – over for risikoen for at lære systemer at fremstille sig selv som moralske kravstillere, før der findes belæg for det. Striden mellem Suleyman og Anthropic er derfor ikke et afgjort svar på, om AI kan være bevidst, men en vigtig uenighed om, hvordan AI-sikkerhed bør håndtere usikkerhed.