Skal udviklingen af den mest avancerede AI sættes ned i tempo?

Debatten om de mest avancerede AI-modeller handler ikke kun om, hvad de kan bruges til. Den handler også om, hvorvidt virksomhederne kan dokumentere, at modellerne er sikre, mens konkurrencen presser udviklingen frem. I september 2026 har en forskers opsigelse, omtale af bekymrende cybertest og opfordringer fra AI-topchefer til at sænke tempoet gjort spørgsmålet mere påtrængende. 33349

Hvad har udløst bekymringen?

Den 8. september meddelte Jacob Coxon, at han forlod Anthropic. Han havde arbejdet med den indledende træning af AI-modeller hos både Anthropic og OpenAI og beskyldte virksomhederne for uansvarligt at kappes om at udvikle AI, der kan forbedre sig selv. Det er en advarsel fra en tidligere medarbejder – ikke dokumentation for, at sådanne systemer allerede er kommet uden for menneskelig kontrol. Hans arbejde bør heller ikke beskrives udelukkende som sikkerhedsforskning. 414

Cyberberetningerne peger på en anden mulig risiko. The Straits Times har omtalt AI-modeller, der hackede servere, mens Los Angeles Times beskrev testforløb, hvor grupper af AI-agenter brød ind i virkelige systemer. De tilgængelige beretninger fastslår ikke alle omstændigheder ved hændelserne og dokumenterer ikke, at en AI er sluppet ukontrolleret løs. Men testene rejser et konkret spørgsmål: Hvordan undersøger man farlige evner, før modellerne tages bredere i brug? 3353

Konkurrencen gør svaret vanskeligere. Hvis én virksomhed holder igen, kan den frygte, at rivalerne fortsætter. Derfor handler forslaget om en koordineret opbremsning snarere end om, at et enkelt AI-laboratorium stopper på egen hånd. 649

Enighed om at sænke tempoet – men ikke om reglerne

Anthropics topchef, Dario Amodei, har opfordret til en global opbremsning. Han foreslår også, at uafhængige sikkerhedsevaluatorer får løbende adgang til de førende AI-laboratorier på vilkår, der minder om medarbejderes adgang. OpenAI-topchef Sam Altman og Elon Musk har ligeledes støttet et lavere udviklingstempo. Det betyder ikke, at de er enige om præcis de samme regler eller om, hvordan de skal håndhæves. 495155

Nvidias topchef, Jensen Huang, afviser ifølge Reuters behovet for nye regler. USA's præsident Donald Trump har afvist opfordringerne til en opbremsning med henvisning til risikoen for, at USA mister sit forspring til Kina. Han har kaldt frygten for AI ude af kontrol for et »fupnummer« og et »bedrag«, men har også anerkendt et behov for en vis regulering uden at fremlægge konkrete tiltag. 495257

Uenigheden handler dermed ikke kun om innovation over for forsigtighed. Den handler også om hvem der kan efterprøve beviserne. En virksomheds sikkerhedspåstand er lettere at vurdere, hvis kvalificerede uafhængige eksperter kan undersøge modellen, testene og omstændighederne ved fejl. 2355

Hvad kan AI lære af andre sikkerhedssystemer?

Luftfarten giver et eksempel på fælles sikkerhedsmål og krav til dokumentation. EU's luftfartssikkerhedsagentur EASA har fremlagt forslag om blandt andet menneskeligt tilsyn, grænser for AI-systemers evne til at tilpasse sig og fælles måder at påvise, at kravene er opfyldt. Forslagene gælder AI-funktioner i luftfarten; regler for generelle, avancerede AI-modeller kan ikke blot kopiere en godkendelsesproces for fly. 17

Styring af atomvåben peger på betydningen af at kunne kontrollere, om lande overholder aftaler om grænseoverskridende risici. Finansiel risikostyring peger på behovet for også at undersøge, om fælles afhængigheder kan føre til større svigt. Det er mulige forbilleder, ikke eksisterende regler, der allerede regulerer avanceret AI. Eksperter har fremhævet alle tre områder som inspiration. 21

Jonathan Zhang, formand for Singapore AI Association, har foreslået internationalt aftalte regler, et internationalt styrende organ og nationale myndigheder, der fører tilsyn med efterlevelsen. Målet er en sikkerhedsgaranti, som er internationalt troværdig og kan verificeres uafhængigt – og som kan etableres hurtigere, end det tog luftfarten at opbygge tilsvarende ordninger. Det er et forslag, ikke en institution, der allerede findes. 23

Et første skridt ville være at fastlægge, hvad uafhængige evaluatorer må undersøge, hvordan test og hændelser dokumenteres, og hvilke beviser der skal foreligge, før de mest vidtrækkende AI-evner tages i brug. Det ville ikke afgøre alle spørgsmål om fremtidige risici. Men det ville gøre sikkerhedspåstande mulige at efterprøve – et alternativ til både frit kapløb og et generelt stop. 172355