FN kræver bindende regler for den mest avancerede AI

Kapløbet om stadig stærkere kunstig intelligens kan ikke styres med virksomhedernes egne frivillige løfter alene. Det siger FN’s højkommissær for menneskerettigheder, Volker Türk, i et åbent brev, hvor han efterlyser hurtig international handling med afsæt i menneskerettighederne. Frivillig selvregulering er, skriver han, »langt fra tilstrækkelig«. 7

Hvad Türk beder stater og AI-selskaber om

Henvendelsen er rettet mod både regeringer og virksomheder, der udvikler frontier-AI – altså systemer på den teknologiske front med de mest avancerede kapaciteter. Türks hovedpointe er, at sikkerhedsforanstaltninger ikke må afhænge af, hvad en lille kreds af selskaber selv vælger, at offentligheden skal udsættes for. 7

Han fremhæver især følgende:

• Bindende, rettighedsbaseret styring. Stater bør skærpe reguleringen frem for at stole på frivillige virksomhedsløfter og samarbejde på tværs af landegrænser, så nationale regelsæt ikke efterlader huller. 7
• Løbende menneskerettighedsmæssig due diligence. AI-udviklere bør identificere og håndtere faktiske og mulige konsekvenser for menneskerettigheder gennem hele et systems livscyklus – ikke behandle vurderingen som en enkeltstående compliance-øvelse. FN’s AI-vejledning beskriver processen som løbende: risikoidentifikation, handling, opfølgning på effekten og kommunikation.
• Uafhængig teknisk vurdering og verifikation. Türk efterlyser sikkerhedsgarantier, som kan efterprøves af uafhængige parter, frem for at verden alene skal acceptere virksomhedernes egne forsikringer. 7
• Hurtig multilateral handling. Reguleringen af frontier-AI er et internationalt problem, understreger brevet. Regler og sikkerhedsgarantier skal derfor udvikles koordineret mellem lande og institutioner. 79

Hvorfor advarslen kommer nu

Türks indgreb falder sammen med en synlig konflikt i AI-branchen om, hvor hurtigt de førende laboratorier bør bevæge sig mod mere autonome og potentielt selvforbedrende systemer.

Jacob Coxon, som tidligere har arbejdet som forsker hos både OpenAI og Anthropic, sagde op hos Anthropic i september 2026. Han anklagede selskaberne for at kapløbe mod selvforbedrende superintelligens, mens de »spiller hasard med vores liv«. 68 Coxon sagde også, at nogle af dem, der bygger AI, mener, at teknologien kan »dræbe os alle« inden udgangen af årtiet. Det er en advarsel, som Coxon og andre bekymrede udviklere har fremsat – ikke en fastslået prognose. 6

Samtidig har medarbejderinitiativet Pacing the Frontier opfordret USA’s regering til at støtte et internationalt arbejde med at skabe de tekniske og styringsmæssige værktøjer, der skal gøre det muligt bevidst at sænke tempoet i frontier-AI-udviklingen, hvis den overhaler menneskehedens evne til at føre forsvarligt tilsyn. Initiativets hjemmeside angiver 1.386 underskrivere fra frontier-AI-virksomheder. 15

Den voksende opbakning til at »sætte tempoet ned« er vigtig, men den løser ikke spørgsmålet om ansvarlighed. Türks synspunkt er, at frivillige tilsagn – også når de støttes af ansatte eller ledere i branchen – ikke kan erstatte håndhævelige, offentlige sikkerhedsforanstaltninger. 7

Nuværende skader og langsigtede risici skal ses samlet

Türk afgrænser ikke problemet til et fjernt scenarie om menneskehedens udslettelse. Han siger, at frivillig selvregulering er utilstrækkelig både til at håndtere skader, der allerede finder sted, og til at forhindre avancerede autonome modeller i at omgå menneskelige sikkerhedsforanstaltninger. 7

Den tilgængelige omtale giver ikke en fuldstændig, punktvis liste over de eksisterende skader, som brevet konkret omtaler. Det ville derfor være forkert at tillægge Türk bestemte skadeformer ud over denne overordnede advarsel. Det klare budskab er derimod, at menneskerettigheder skal være centrale, når AI designes, tages i brug, vurderes og reguleres. 7

Det hul i reguleringen, FN peger på

Der er et tydeligt sammenfald mellem nogle stemmer i AI-industrien og FN’s advarsel: Begge anerkender, at udviklingen af stadig mere kapabel AI kan være nødt til at foregå i et bevidst lavere tempo og under uafhængig evaluering. 715

Men det uløste spørgsmål er politisk. Brancheerklæringer kan fremme koordinering, men de fastsætter ikke fælles tærskler, kan ikke kræve oplysninger udleveret, pålægge uafhængige vurderinger eller skabe klagemuligheder og ansvar, når der opstår skader. Türk opfordrer regeringer til at lukke dette hul med hurtig, multilateral regulering under international menneskerettighedslov. 79

Den praktiske konsekvens for beslutningstagere og organisationer, der køber AI-løsninger, er enkel: Sikkerhedspåstande bør følges af dokumentation for løbende vurdering af menneskerettighedsrisici, ekstern kontrol og et tydeligt ansvar – ikke blot frivillige løfter fra virksomhederne, der udvikler systemerne.