Volker Türk kräver bindande regler för den mest avancerade AI:n

FN:s högkommissarie för mänskliga rättigheter, Volker Türk, anser att företag som utvecklar den mest avancerade AI:n inte kan få sätta säkerhetsreglerna på egen hand. I ett öppet brev uppmanar han regeringar och AI-bolag att agera skyndsamt och internationellt samordnat, med internationell människorättslag som utgångspunkt. Frivillig självreglering är, enligt Türk, ”långt ifrån tillräcklig”. 7

Med frontier AI avses här AI-system i den yttersta teknikfronten – modeller med de mest avancerade kapaciteterna.

Det här vill Türk att stater och AI-företag gör

Türks huvudbudskap är att riskerna inte bör avgöras av ett fåtal privata företag. Han efterlyser skyddsräcken som är offentligt förankrade, möjliga att kontrollera och samordnade mellan länder. 7

• Bindande, rättighetsbaserad styrning. Stater bör stärka regleringen i stället för att förlita sig på företagens frivilliga utfästelser. Internationellt samarbete behövs också för att minska luckor mellan nationella regelverk. 7
• Löpande aktsamhetsgranskning av mänskliga rättigheter. AI-utvecklare bör identifiera och hantera faktiska och möjliga konsekvenser för mänskliga rättigheter genom hela systemets livscykel, inte bara göra en engångsbedömning. FN:s vägledning beskriver detta som en fortlöpande process: identifiera risker, vidta åtgärder, följa upp effekten och redovisa arbetet.
• Oberoende teknisk granskning och verifiering. Türk efterlyser skyddsåtgärder som kan kontrolleras av utomstående, i stället för att enbart bygga på företagens egna försäkringar. 7
• Snabbt multilateralt agerande. Styrningen av frontier AI är ett gränsöverskridande problem, enligt brevet. Regler och säkerhetsgarantier behöver därför tas fram gemensamt av länder och institutioner. 79

Bakgrunden: växande oro även inne i AI-branschen

Türks utspel kommer mitt i en synlig konflikt inom AI-sektorn om hur snabbt de ledande laboratorierna bör gå vidare mot mer autonoma och potentiellt självförbättrande system.

Jacob Coxon, en forskare som arbetat både på OpenAI och Anthropic, sade upp sig från Anthropic i september 2026. Han anklagade bolagen för att tävla mot självförbättrande superintelligens och för att ”spela med våra liv”. 68 Coxon sade också att vissa som bygger AI tror att tekniken kan ”döda oss alla” före decenniets slut. Det är en varning som tillskrivs Coxon och andra oroliga utvecklare – inte en fastslagen prognos. 6

Samtidigt har det anställdadrivna initiativet Pacing the Frontier uppmanat USA:s regering att stödja ett internationellt arbete för att utveckla teknik och styrning som kan bromsa utvecklingen av frontier AI när den går snabbare än människors möjlighet att övervaka den säkert. Initiativets webbplats uppger att 1 386 personer vid företag som utvecklar sådan AI har skrivit under. 15

Det växande stödet för att ”takta ned” utvecklingen löser dock inte ansvarsfrågan. Türks hållning är att frivilliga åtaganden, även när de stöds av anställda eller företagsledare, inte kan ersätta bindande samhälleliga skyddsräcken. 7

Nuvarande skador och långsiktiga risker ska hanteras tillsammans

Türk begränsar inte frågan till ett avlägset scenario där AI leder till mänsklighetens undergång. Han skriver att frivillig självreglering inte räcker vare sig för att hantera skador som redan uppstår eller för att hindra avancerade autonoma modeller från att kringgå mänskliga skyddsmekanismer. 7

Rapporteringen ger ingen fullständig punktlista över vilka nuvarande skador som särskilt nämns i brevet. Det går därför inte att med säkerhet tillskriva Türk specifika kategorier av skada utöver den breda varningen. Däremot är hans princip tydlig: mänskliga rättigheter ska stå i centrum när AI utformas, används, utvärderas och styrs. 7

Klyftan som FN-chefen pekar på

Här finns en viss samsyn mellan delar av AI-branschen och FN:s varning: utvecklingen kan behöva ske i ett medvetet långsammare tempo och systemen behöver granskas oberoende. 715

Men den politiska klyftan kvarstår. Branschstödda uttalanden kan uppmuntra samordning, men de fastställer inte gemensamma gränsvärden, kan inte tvinga fram insyn eller oberoende tester och skapar inte ansvar eller möjlighet till upprättelse när skador uppstår. Türk vill att regeringar täpper till den luckan med skyndsam, multilateral reglering inom ramen för internationell människorättslag. 79

För beslutsfattare och organisationer som köper in AI är slutsatsen praktisk: säkerhetspåståenden bör följas av belägg för löpande riskbedömningar av mänskliga rättigheter, extern granskning och tydligt ansvar – inte bara av frivilliga löften från företagen som bygger systemen.