Sam Altmans to AI-advarsler: Tab af kontrol og koncentreret magt

Kraftig kunstig intelligens kan slå fejl for samfundet på to grundlæggende forskellige måder, ifølge OpenAI-chef Sam Altman: Mennesker kan miste kontrollen over stadig mere kapable systemer, eller kontrollen over dem kan ende hos alt for få aktører. Dermed kobler han teknisk AI-sikkerhed sammen med spørgsmålet om magt og regulering: Det afgørende er ikke kun, hvad modellerne kan, men også hvem der bestemmer over dem. 1316

To veje, der ifølge Altman skal undgås

For det første: Mennesker mister kontrollen. Altman har advaret mod, at menneskeheden kan »miste kontrollen over fremtiden til AI«. Det kalder han uacceptabelt. Hans grundprincip er, at AI skal tjene mennesker – ikke omvendt – og at vi ikke må blive afhængige af systemer, vi ikke kan føre tilstrækkeligt tilsyn med. 216

For det andet: AI-magt samles hos få. Han advarer også mod en verden, hvor et ekstraordinært stærkt AI-system kontrolleres af én person, én virksomhed eller ét land og bruges til at påtvinge alle andre et bestemt verdenssyn. Det kan ifølge Altman blive »ekstremt dystopisk«. 113

Risiciene hænger sammen, men er ikke identiske. Den første handler om, hvorvidt mennesker kan forstå, begrænse og tilsidesætte kraftige systemer. Den anden handler om, at systemerne godt kan være kontrollerbare i teknisk forstand, men kontrolleres af en aktør med for lidt demokratisk eller uafhængig modmagt.

Hvilke værn peger han på?

Altman argumenterer ikke blot for at standse AI-udvikling. Hans pointe er, at modellernes kapabiliteter ikke må løbe fra arbejdet med alignment – at få systemerne til at handle i overensstemmelse med menneskelige mål – og overvågning. Konkurrencepres må ikke bruges som undskyldning for uforsvarlig udrulning. 213

Han har blandt andet fremhævet:

• Alignment og overvågning, der følger med kapabiliteterne. Udviklere skal meningsfuldt kunne vurdere og styre, hvad stadig stærkere modeller gør. 213
• AI i menneskers tjeneste. Det er målet bag hans advarsel om at miste kontrollen. 216
• Ensartede føderale krav til frontier-AI. Det vil sige de mest avancerede modeller, hvor Altman foretrækker en fælles amerikansk ramme frem for alene fragmenterede, frivillige løfter fra virksomhederne. 1316
• Uafhængig kontrol. Han har nævnt eksterne revisorer eller auditører som en mulig måde at skabe offentlig tillid til virksomheder, der udvikler stadig mere kapable modeller. 16

Den praktiske konsekvens er et større beviskrav for de kraftigste systemer: Sikkerhedsforanstaltningerne skal være afprøvede og troværdige, før modeller tages i brug – ikke blive en eftertanke, når kapabiliteterne allerede er nået videre.

Anthropic-forskere gør tonen skarpere

Samme uge advarede den tidligere Anthropic-forsker Jacob Coxon om, at førende laboratorier kapløber mod selvforbedrende AI og dermed »gambler med vores liv«. Ifølge omtalen af hans opsigelse mente han, at forskere, som bygger systemerne, oprigtigt frygter, at de kan blive for magtfulde til, at mennesker kan kontrollere dem. 17

Formuleringen er mere direkte end Altmans, men den grundlæggende bekymring overlapper: Den tekniske fremdrift kan gå hurtigere end evnen til at føre et pålideligt tilsyn. I en offentlig udveksling blev Anthropics alignment-leder Evan Hubinger citeret for et personligt skøn på over 10 % sandsynlighed for, at AI kan føre til menneskehedens udryddelse inden for et årti. Han anerkendte samtidig, at der endnu ikke findes en komplet løsning på alignment af superintelligens. Det er en individuel risikovurdering – ikke en etableret prognose eller en videnskabeligt fastslået sandsynlighed. 17

Det centrale er derfor ikke, at en bestemt tidslinje for menneskelig udryddelse er bevist. Det er den ikke. Men forskere tæt på frontlinjeudviklingen diskuterer nu åbent, om de nuværende sikkerhedspraksisser udvikler sig hurtigt nok.

Branchens reelle konflikt: Kapabilitet eller sikkerhed først?

Debatten beskrives ofte som en kamp mellem dem, der vil accelerere AI, og dem, der vil bremse den. Men den beskrivelse er for enkel. De fleste parter peger på, at AI kan skabe store gevinster. Uenigheden handler snarere om tempo og håndhævelse.

Det ene synspunkt er, at udviklingen af frontier-modeller skal tilrettelægges, så sikkerhedsforskning, test, regulering og beskyttelse mod misbrug kan nå at modne. Anthropics topchef Dario Amodei har opfordret til at sænke tempoet i kapabilitetsudviklingen og foreslået blandt andet faste, uafhængige evaluatorer med dyb adgang, koordinering mellem de førende laboratorier og internationalt samarbejde.

Det modsatrettede pres er reelt: Virksomheder og regeringer frygter at miste økonomiske eller geopolitiske fordele, hvis konkurrenterne fortsætter hurtigere. Men Altman argumenterer for, at konkurrence ikke kan retfærdiggøre, at kapabiliteterne overhaler alignment og overvågning. 13

Reuters har rapporteret, at nogle forskere mener, at modellernes evner vokser hurtigere end ventet, samtidig med at menneskers indblik i og potentielle kontrol over systemerne bliver mindre. Det gør det politiske hovedspørgsmål mere presserende: Skal laboratorier fortsætte med at udrulle mere autonome modeller, mens sikkerheden forsøger at indhente dem – eller skal de først dokumentere, at værnene er tilstrækkelige?

Hvad betyder det for reguleringen af AI?

Altmans to advarsler peger på, at reguleringen af frontier-AI skal adressere både teknisk kontrol og fordelingen af magt. Bedre modeltest, alignment-forskning, overvågning og uafhængigt tilsyn retter sig især mod det første problem. Ensartede regler, gennemsigtighed og begrænsninger af ensidig kontrol retter sig mod det andet.

Hverken katastrofeforudsigelser eller præcise tidslinjer bør behandles som afgjorte fakta. Men fordi konsekvenserne af fejl potentielt kan være så alvorlige, er krav om stærkere evalueringer, ekstern kontrol og sikkerhedskrav rykket fra at være en nichebekymring til at blive et kernespørgsmål for AI-industrien. 13