Volker Türk krever bindende regler for den mest avanserte KI-en

FNs høykommissær for menneskerettigheter, Volker Türk, mener selskapenes egne sikkerhetsløfter ikke kan være hovedvernet mot risikoene ved stadig kraftigere kunstig intelligens. I et åpent brev ber han om raskt, multilateralt samarbeid basert på internasjonal menneskerettighetslov. Frivillig selvregulering er, med hans ord, «langt fra tilstrekkelig». 7

Med frontier-KI menes her systemer helt i den teknologiske fronten – de mest kapable modellene som utvikles. Türk vil ikke overlate til et lite antall selskaper å avgjøre hvilke risikoer allmennheten skal måtte akseptere. 7

Dette ber Türk myndigheter og selskaper om

Türks hovedbudskap er at stater må styrke reguleringen og samordne den på tvers av landegrenser, i stedet for å satse på frivillige bedriftsløfter. 7

Han peker særlig på følgende:

• Bindende, menneskerettighetsbasert styring. Regelverket bør være håndhevbart og utvikles internasjonalt, slik at ulike nasjonale løsninger ikke skaper smutthull. 7
• Løpende aktsomhetsvurderinger av menneskerettigheter. KI-utviklere bør kartlegge og håndtere faktiske og mulige menneskerettighetskonsekvenser gjennom hele systemets livsløp – ikke bare ved én kontroll før lansering. FNs KI-veiledning beskriver dette som en kontinuerlig prosess: identifisere risiko, sette inn tiltak, følge opp effekten og kommunisere hva som gjøres.
• Uavhengig teknisk vurdering og verifisering. Sikkerhetsgarantier må kunne etterprøves utenfra, ikke bare bygge på selskapenes egne forsikringer. 7
• Hastetiltak gjennom internasjonalt samarbeid. Styringen av avansert KI er et grenseoverskridende spørsmål, og regler og sikkerhetsgarantier må derfor utvikles samordnet mellom land og institusjoner. 79

Advarselen kommer mens uroen øker i KI-bransjen

Brevet kommer i en periode med tydelig intern strid om hvor raskt ledende KI-laboratorier bør gå fram mot mer autonome og potensielt selvforbedrende systemer.

Jacob Coxon, en forsker som hadde jobbet både i OpenAI og Anthropic, sluttet i Anthropic i september 2026. Han sa at selskapene kappløp mot selvforbedrende superintelligens og «satser med livene våre». 68 Coxon sa også at enkelte som utvikler KI, mener teknologien kan «drepe oss alle» innen tiårets slutt. Dette er en advarsel tillagt Coxon og andre bekymrede utviklere – ikke en fastslått prognose. 6

Samtidig har det ansatteledede initiativet Pacing the Frontier bedt amerikanske myndigheter støtte en internasjonal innsats for å utvikle tekniske og styringsmessige virkemidler som kan bremse utviklingen av den mest avanserte KI-en når den går raskere enn menneskers evne til å føre forsvarlig tilsyn. Nettstedet oppgir 1 386 underskrivere fra selskaper som utvikler frontier-KI. 15

At det finnes støtte i bransjen for å «sette tempoet ned», løser likevel ikke spørsmålet om ansvar. Türk understreker at frivillige initiativer, selv når de støttes av ansatte eller ledere i selskapene, ikke kan erstatte offentlige og håndhevbare sikkerhetskrav. 7

Både dagens skadevirkninger og langsiktige risikoer

Türk begrenser ikke problemstillingen til et mulig, fjernt katastrofescenario. Han sier at frivillig selvregulering ikke er nok verken for å håndtere skadevirkninger som allerede finnes, eller for å hindre at avanserte autonome modeller omgår menneskelige sikkerhetsmekanismer. 7

Den tilgjengelige rapporteringen gir ikke en uttømmende oversikt over hvilke konkrete eksisterende skadevirkninger som omtales i brevet. Det ville derfor være misvisende å tilskrive Türk en spesifikk liste over skadeformer. Det klare prinsippet er derimot at menneskerettighetene må stå sentralt når KI utvikles, tas i bruk, vurderes og reguleres. 7

Gapet Türk mener politikerne må tette

Det er en viss overlapp mellom deler av KI-bransjen og FNs advarsel: Begge peker på behovet for å styre tempoet i kapabilitetsutviklingen og for uavhengige vurderinger. 715

Men det avgjørende gapet er politisk. Bransjeopprop kan oppmuntre til samordning, men de fastsetter ikke felles terskler, tvinger ikke fram åpenhet, krever ikke uavhengig kontroll og gir ikke mekanismer for oppreisning eller ansvar når skade oppstår. Türk ber regjeringer lukke dette gapet med rask, multilateralt forankret regulering under internasjonal menneskerettighetslov. 79

Den praktiske konsekvensen for politikere og virksomheter som kjøper KI-løsninger, er enkel: Sikkerhetspåstander bør følges av dokumentasjon på løpende vurdering av menneskerettighetsrisiko, ekstern kontroll og tydelig ansvar. Frivillige løfter fra selskapene som bygger systemene, er ikke nok.