Hvad ved vi om det foreslåede organ for standarder i avanceret AI?

Offentlig omtale peger på en reel tilnærmelse mellem Anthropic, OpenAI og Google DeepMind om én central idé: De mest avancerede AI-modeller bør granskes ud over udviklernes egne interne kontroller, før de frigives. Men materialet dokumenterer ikke, at selskaberne har oprettet en ny fælles tilsynsmyndighed – eller er blevet enige om bindende test, revisionsadgang, tærskler for lancering eller sanktioner ved manglende efterlevelse. 811

Det er en afgørende forskel. Enighed om behovet for evalueringer er ikke det samme som en institution med magt til at håndhæve dem.

Forslaget i korte træk

Ifølge omtalen har virksomhederne siden juli 2026 haft møder på arbejdsniveau om et brancheledet standardorgan for avanceret AI. Det tilsyneladende mål er et fælles system til at vurdere farlige kapaciteter før offentlig udrulning – især risici knyttet til cyberangreb, biologisk misbrug, bedrag og andre former for alvorligt misbrug. 811

Google DeepMinds direktør, Demis Hassabis, har offentligt beskrevet den tydeligste institutionsmodel: et amerikansk ledet Frontier AI Standards Body, inspireret af FINRA, finansbranchens selvregulerende organisation i USA. Hans forslag er et branchefinansieret organ under føderalt tilsyn, som skal teste avancerede modeller før lancering. Det skulle begynde med frivillige indsendelser og først kunne blive obligatorisk, når vurderingsprocessen havde bevist sit værd. 9

Der er endnu ikke offentlig dokumentation for, at laboratorierne er enige om de afgørende detaljer, der kan gøre systemet holdbart:

• hvilke modeller der skal gennemgås;
• hvilke tekniske evalueringer der skal være obligatoriske;
• hvor meget adgang eksterne evaluatorer får;
• hvilke resultater der skal blokere, udskyde eller betinge en lancering;
• hvem der finansierer og styrer organet;
• hvor uafhængige evaluatorerne er af de virksomheder, de vurderer; og
• hvilket statsligt tilsyn og hvilke juridiske garantier der skal gælde.

Før de spørgsmål er besvaret, vil det være at gå for langt at kalde initiativet en fælles, fungerende tilsynsmyndighed.

Det, selskaberne tilsyneladende er enige om

Det tydeligste fælles punkt er uafhængig test før lancering. Axios skrev i juli, at Dario Amodei, Sam Altman og Demis Hassabis overordnet støttede ekstern granskning af avancerede modeller, før de når offentligheden, i stedet for primært at bygge på virksomhedernes egen rapportering. 8

Det er væsentligt, fordi sikkerheden i avancerede modeller ikke kun afhænger af, om udviklerne gennemfører tests. Den afhænger også af, om uafhængige parter kan efterprøve eller udfordre resultaterne. Et troværdigt system kræver klare test, reel adgang til systemerne og fastlagte konsekvenser, når en model krydser en risikotærskel.

Alle tre virksomheder fremstiller også problemet som internationalt. Der ligger en strategisk spænding i, at ensidige amerikanske begrænsninger kan være politisk vanskelige, hvis konkurrenter i andre lande ikke møder tilsvarende krav. Hassabis' plan er udtrykkeligt amerikansk ledet, mens Amodei har argumenteret for, at nationale sikkerhedsforanstaltninger alene ikke kan styre systemer, der kan udrulles globalt. 91

Uenigheden handler om styring og magt

Laboratoriernes fælles sprog om sikkerhed skjuler en grundlæggende uenighed: Er det primært en frivillig brancheordning, et statsstøttet system eller en regulator med reel myndighed?

DeepMinds foreslåede model er branchefinansieret, men under føderalt tilsyn. Den lægger op til en frivillig startfase med mulighed for, at en vurdering senere kan blive en forudsætning for udrulning. 9

Amodeis forslag lægger vægt på fast tilknyttede, uafhængige evaluatorer med adgang inde i de avancerede AI-laboratorier. Han opfordrer også virksomheder i demokratiske lande til at samordne standarder med statslig støtte, hvor det er nødvendigt. 12

Omtalen af arbejdsgruppens drøftelser beskriver OpenAI som åben for, at branchen handler frem for at vente på, at myndighederne etablerer en samlet model. 11 OpenAI-direktør Sam Altman har desuden offentligt bakket op om uafhængige evaluatorer med medarbejderlignende adgang efter Amodeis essay.

Forskellene er ikke kun formelle. En frivillig aftale kan indføres hurtigt og skabe fælles tekniske arbejdsgange. Men uden uafhængig ledelse og offentlig myndighed kan den have svært ved at kræve adgang, løse tvister, forebygge interessekonflikter eller standse et selskab, der vil lancere en model, som ikke har bestået en sikkerhedsvurdering.

Frontier Model Forum er ikke bevis på en ny regulator

Frontier Model Forum findes allerede som et brancheorgan med store AI-virksomheder. Dets erklærede mål omfatter sikkerhedsforskning, udvikling af evalueringer og bedste praksis samt videndeling med politikere og branchen.

Det gør forummet til en mulig ramme for koordinering. Men det dokumenterer ikke i sig selv, at et nyt uafhængigt organ er blevet oprettet, eller at et system for revisioner på tværs af virksomheder er bindende. Det centrale spørgsmål er, om virksomhederne skaber en enhed, der blot udvikler vejledning – eller en, der selvstændigt kan vurdere modeller og stille meningsfulde krav til lancering.

Derfor ændrede Amodeis essay debatten

Den 12. september udgav Anthropics direktør Dario Amodei det cirka 3.800 ord lange essay We Must Pace the Frontier. Her argumenterede han for, at forbedringer i AI-kapacitet bør ske langsommere, så sikkerhedsarbejdet kan følge med. 52

Amodei advarede om, at en mere avanceret, automatiseret sværm af AI-agenter inden for seks til tolv måneder potentielt kan overtage internettet. Det bør forstås som en prognose og en risikoadvarsel – ikke som et dokumenteret teknisk resultat. 513

Hans foreslåede vej frem består af tre dele:

1. Uafhængige evaluatorer inde i avancerede AI-laboratorier med medarbejderlignende adgang til at teste systemer, finde sikkerhedsfejl og vurdere efterlevelse. 12
2. Fælles sikkerhedsstandarder og grænser blandt AI-virksomheder i demokratiske lande, med statslig støtte hvor det er nødvendigt. 216
3. Bredere international koordinering, også med autoritære regeringer, fordi avancerede modeller og deres risici kan udrulles globalt. 115

Anthropic oplyste, at virksomheden vil give tredjepartsevaluatorer permanent adgang på medarbejderniveau. Det er en stærkere forpligtelse end en enkeltstående ekstern test, men troværdigheden vil i praksis afhænge af, hvem der udpeger evaluatorerne, hvad de kan inspicere, om de kan offentliggøre deres fund, og hvad der sker, hvis de konstaterer en uacceptabel risiko. 122

Den afgørende prøve: Ansvarlighed

Kritikernes hovedindvending er enkel: De virksomheder, der konkurrerer om at bygge de mest kapable systemer, kan også komme til at skrive, administrere og fortolke reglerne for dem.

Et sikkerhedsorgan vil stå stærkere, hvis det har uafhængig teknisk ledelse, gennemsigtige evalueringsmetoder, beskyttelse mod virksomhedspåvirkning, reelt offentligt tilsyn og klare beføjelser til at handle efter en dumpet vurdering. Uden de elementer kan fælles standarder forbedre praksis, men stadig ikke være det samme som uafhængig ansvarlighed.

Future of Life Institutes AI Safety Index for sommeren 2026 illustrerer, hvorfor skepsissen består. Indekset gav Anthropic karakteren C+, OpenAI C og Google DeepMind C. Intet af de vurderede laboratorier fik højere end C+. 17

Senator Bernie Sanders mente, at en opbremsning ikke var nok, og opfordrede i stedet til en pause i udviklingen af avanceret AI samt et forbud mod kunstig superintelligens. Det er en langt mere indgribende linje end laboratoriernes forslag, men den understreger kløften mellem frivillig opbremsning og håndhævelige grænser.

Det skal man holde øje med nu

De næste tegn på reel fremdrift er ikke endnu en hensigtserklæring, men konkrete institutionelle forpligtelser:

• et offentliggjort charter for ledelse og styring;
• navngivne, uafhængige evaluatorer;
• standardiserede tests af kapacitet og misbrug;
• regler for revisionsadgang og offentliggørelse;
• tærskler for lancering og krav til afhjælpning; og
• et klart svar på, om en sikkerhedsvurdering faktisk kan forsinke eller forhindre en udrulning.

Indtil videre understøtter dokumentationen en snævrere konklusion: De store laboratorier for avanceret AI drøfter fælles sikkerhedsinfrastruktur og støtter i stigende grad ekstern test. Om det ender i et uafhængigt, håndhæveligt standardorgan eller et frivilligt brancheforum, er fortsat uafklaret. 8911