Hva vet vi egentlig om en mulig sikkerhetsinstans for grenselandet innen KI?

Det mest solide i den offentlige rapporteringen er at Anthropic, OpenAI og Google DeepMind nærmer seg hverandre på ett sentralt punkt: De mest kapable KI-modellene bør testes av andre enn selskapene selv før de slippes bredt. Men dette er ikke det samme som at de har etablert en ny felles regulator – eller at de er enige om bindende krav, revisjonstilgang, lanseringsterskler eller reaksjoner ved brudd. 811

Forskjellen er avgjørende. Enighet om behovet for tester er ikke det samme som en institusjon som kan håndheve resultatene.

Hva det angivelig arbeides med

Ifølge rapporter har selskapene hatt møter på arbeidsnivå siden juli 2026 om en bransjeledet standardinstans for såkalt frontier AI – de aller mest avanserte modellene. Målet ser ut til å være et felles system for å vurdere farlige egenskaper før offentlig lansering, særlig risiko knyttet til cyberangrep, biologisk misbruk, villedning og annen alvorlig skade. 811

Google DeepMind-sjef Demis Hassabis har lagt frem den tydeligste modellen offentlig: en USA-ledet Frontier AI Standards Body, inspirert av FINRA, den selvregulerende organisasjonen i amerikansk finans. Forslaget beskriver en bransjefinansiert instans under føderalt tilsyn, som tester avanserte modeller før lansering. Ordningen skulle starte med frivillige innsendelser og først eventuelt bli obligatorisk når testopplegget har vist at det fungerer. 9

Det offentlige materialet viser derimot ikke at laboratoriene er enige om detaljene som avgjør om en slik ordning faktisk kan fungere:

• hvilke modeller som må vurderes;
• hvilke tekniske tester som skal være obligatoriske;
• hvor mye innsyn eksterne testere skal få;
• hvilke funn som skal stanse, utsette eller begrense en lansering;
• hvem som finansierer og styrer instansen;
• hvordan testerne skal holdes uavhengige av selskapene de vurderer; og
• hvilke juridiske garantier og hvilken offentlig kontroll som skal gjelde.

Å omtale dette som en ferdig, felles regulator vil derfor gå lenger enn bevisene tillater.

Den tydeligste enigheten: ekstern testing før lansering

Axios rapporterte i juli at Dario Amodei, Sam Altman og Demis Hassabis i hovedsak støttet ekstern granskning av frontier-modeller før de når publikum, i stedet for å bygge systemet på selskapenes egen rapportering. 8

Det er et viktig skifte. Sikkerhetstesting er ikke bare et spørsmål om hvorvidt utvikleren har gjort egne målinger, men om uavhengige aktører kan etterprøve eller utfordre konklusjonene. Et troverdig regime trenger derfor tydelige tester, reell tilgang til systemene og avklarte følger dersom en modell passerer en fastsatt risikogrense.

Selskapene beskriver også utfordringen som internasjonal. Det ligger en åpenbar strategisk spenning her: Strenge amerikanske begrensninger kan være politisk vanskelige dersom konkurrenter i andre land ikke møter sammenlignbare krav. Hassabis’ modell er uttrykkelig USA-ledet, mens Amodei har argumentert for at nasjonale sikkerhetstiltak alene ikke kan håndtere systemer som kan tas i bruk globalt. 91

Uenigheten gjelder hvem som skal ha makten

Bak den felles sikkerhetsretorikken ligger et grunnleggende spørsmål: Skal dette primært være en frivillig bransjeordning, et system støttet av myndighetene eller en regulator med reell myndighet?

DeepMinds forslag er bransjefinansiert, men under føderalt tilsyn. Det legger opp til en frivillig startfase, med mulighet for at godkjenning senere blir en forutsetning for å ta en modell i bruk. 9

Amodei har lagt vekt på uavhengige evaluatorer inne i frontier-laboratoriene og på at selskaper i demokratiske land bør samordne standarder, med statlig støtte når det er nødvendig. 12

Rapporteringen om arbeidsgruppene beskriver OpenAI som åpen for bransjehandling uten å vente på at myndighetene skal bygge et komplett system. 11 Sam Altman har også offentlig støttet uavhengige evaluatorer med tilgang på nivå med ansatte, etter Amodeis utspill.

Dette er ikke bare nyanseforskjeller. En frivillig ordning kan komme raskt i gang og gi felles teknisk praksis. Men uten uavhengig styring og offentlig myndighet kan den mangle evnen til å kreve tilgang, løse konflikter, motvirke interessekonflikter eller stanse en lansering som ikke består en sikkerhetsvurdering.

Frontier Model Forum er ikke bevis på en ny regulator

Frontier Model Forum finnes allerede som et bransjeorgan med flere store KI-selskaper. De uttalte målene omfatter sikkerhetsforskning, utvikling av evalueringer og beste praksis, samt informasjonsdeling med myndigheter og næringsliv.

Forumet kan derfor være en naturlig arena for samordning. Men det dokumenterer ikke i seg selv at en ny, uavhengig instans er opprettet, eller at et system for revisjon på tvers av selskapene er bindende. Det sentrale blir om selskapene etablerer en aktør som bare utformer veiledning – eller en som kan vurdere modeller uavhengig og stille reelle vilkår for lansering.

Amodeis essay løftet debatten

1. september publiserte Anthropic-sjef Dario Amodei det om lag 3 800 ord lange essayet We Must Pace the Frontier. Han argumenterte for at framgangen i KI-kapasitet bør bremses, slik at sikkerhetsarbeidet får tid til å ta igjen utviklingen. 52

Amodei advarte om at en mer kapabel, automatisert sverm av KI-agenter innen seks til tolv måneder potensielt kan overta internett. Dette må forstås som en prognose og risikoadvarsel – ikke som et påvist teknisk resultat. 513

Hans forslag har tre deler:

1. Plasser uavhengige evaluatorer inne i frontier-laboratorier, med tilgang på nivå med ansatte, slik at de kan teste systemene, avdekke sikkerhetssvikt og vurdere etterlevelse. 12
2. Samordne felles sikkerhetsstandarder og grenser mellom KI-selskaper i demokratiske land, med statlig støtte ved behov. 216
3. Søke bredere internasjonal samordning, også med autoritære regjeringer, fordi avanserte modeller og risikoen de innebærer kan spres globalt. 115

Anthropic har sagt at eksterne evaluatorer skal få permanent tilgang på nivå med ansatte. Det er et sterkere løfte enn en enkeltstående test utført utenfra. Likevel avhenger troverdigheten av hvem som velger evaluatorene, hva de faktisk får undersøke, om de kan offentliggjøre funn, og hva som skjer dersom de avdekker en uakseptabel risiko. 122

Den store prøven: ansvarlighet

Kritikernes hovedinnvending er enkel: Selskapene som konkurrerer om å bygge de mest kapable systemene, kan også få stor innflytelse over reglene som gjelder for systemene.

En sikkerhetsinstans ville stått sterkere dersom den hadde uavhengig teknisk ledelse, åpne vurderingsmetoder, vern mot selskapsinnflytelse, meningsfullt offentlig tilsyn og klare fullmakter når en modell ikke består vurderingen. Uten slike elementer kan felles standarder forbedre praksis, men likevel falle kort av reell, uavhengig ansvarlighet.

Future of Life Institutes AI Safety Index for sommeren 2026 illustrerer hvorfor skepsisen består. Anthropic fikk C+, mens OpenAI og Google DeepMind fikk C. Ingen av de vurderte laboratoriene fikk bedre enn C+. 17

Senator Bernie Sanders mente at en nedbremsing ikke er nok, og tok til orde for en pause i utviklingen av avansert KI og et forbud mot kunstig superintelligens. Det er en langt strengere linje enn selskapenes forslag, men den synliggjør avstanden mellom frivillig tempojustering og regler som kan håndheves.

Hva man bør følge med på nå

Det avgjørende blir ikke flere generelle erklæringer om sikkerhet, men konkrete institusjonelle forpliktelser:

• et offentlig styringsmandat;
• navngitte, uavhengige evaluatorer;
• standardiserte tester av kapasitet og misbruk;
• regler for revisjonstilgang og offentliggjøring;
• terskler for lansering og krav til utbedring; og
• et klart svar på om et sikkerhetsfunn kan utsette eller stanse utrulling.

Foreløpig peker bevisene mot en smalere konklusjon: De ledende frontier-laboratoriene diskuterer felles sikkerhetsinfrastruktur og støtter i økende grad ekstern testing. Om det ender i en uavhengig instans med håndhevingsmakt, eller i et frivillig bransjeforum, er fortsatt uavklart. 8911