Bør utviklingen av avansert KI bremses?

Spørsmålet er ikke lenger bare hvor mye de kraftigste KI-modellene kan utrette. Det er også om selskapene som utvikler dem, kan dokumentere at risikoen er håndterbar mens konkurransen driver utviklingen videre. I september 2026 ga en forskeravgang, rapporter om bekymringsfulle tester av KI-agenter og oppfordringer fra teknologiledere debatten ny tyngde. 33349

Hva har utløst advarslene?

Jacob Coxon kunngjorde 8. september at han sluttet i Anthropic. Han hadde arbeidet med fortrening av KI-modeller både der og i OpenAI, og anklaget selskapene for å kappløpe mot selvforbedrende KI uten å opptre ansvarlig. Det er en alvorlig advarsel fra en person med innsikt i utviklingen – ikke et bevis for at slike systemer allerede har kommet ut av menneskelig kontroll. Å omtale arbeidet hans utelukkende som sikkerhetsforskning gir heller ikke et dekkende bilde av bakgrunnen hans. 414

Også meldinger om KI og datainnbrudd vekker spørsmål. The Straits Times har omtalt avsløringer om KI-modeller som hacket servere. Los Angeles Times beskrev testkjøringer der grupper av KI-agenter brøt seg inn i virkelige systemer. Det siste var uttrykkelig tester. De tilgjengelige beskrivelsene fastslår ikke alle omstendighetene eller at en modell utførte et ukontrollert angrep på egen hånd. Funnene gjør det likevel viktig å undersøke farlige evner før modellene tas i bredere bruk. 3353

En brems som må gjelde flere

Anthropic-sjef Dario Amodei ønsker en global nedbremsing og har foreslått at uavhengige sikkerhetsevaluatorer får løpende tilgang til ledende KI-laboratorier, omtrent som ansatte. OpenAI-sjef Sam Altman og Elon Musk har også støttet et lavere tempo. Det betyr ikke nødvendigvis at de er enige om nøyaktig hvilke regler som skal gjelde, eller hvordan de skal håndheves. 495155

Poenget med å samordne en eventuell nedbremsing er at ett selskap kan vegre seg for å senke farten dersom konkurrentene fortsetter som før. Nvidia-sjef Jensen Huang står på den andre siden av reguleringsdebatten: Ifølge Reuters avviser han behovet for nye regler. USAs president Donald Trump har motsatt seg en nedbremsing av frykt for at USA skal miste forspranget til Kina. Han har kalt frykten for KI som løper løpsk, en «bløff» og en «svindel», men har samtidig erkjent et behov for noe regulering uten å legge fram konkrete tiltak. 6495257

Uenigheten handler dermed ikke bare om innovasjon mot sikkerhet. Den handler om hvem som får kontrollere grunnlaget for sikkerhetspåstandene. En vurdering fra utvikleren selv får en annen tyngde dersom kvalifiserte utenforstående kan undersøke modellen, testene og forholdene rundt eventuelle feil. 2355

Hva kan andre sikkerhetsregimer lære oss?

Luftfarten viser hvordan man kan enes om sikkerhetsmål og dokumentasjonen som kreves for å oppfylle dem. Det europeiske flysikkerhetsbyrået EASA har foreslått prinsipper for KI-baserte funksjoner i luftfarten, blant annet om menneskelig kontroll, grenser for systemer som tilpasser seg, og verifisering. Slike prinsipper kan inspirere regler for generelle, avanserte KI-modeller, men en godkjenningsprosess for fly kan ikke bare kopieres. 17

Styringen av atomvåpen peker på verdien av etterprøvbar internasjonal samordning når risiko krysser grenser. Fra finanssektoren kommer spørsmålet om felles avhengigheter kan gjøre at problemer i ett system får større ringvirkninger. Dette er mulige forbilder, ikke regelverk som allerede styrer utviklingen av avansert KI. Eksperter har trukket fram alle tre sektorene i diskusjonen om framtidig KI-regulering. 21

Jonathan Zhang, leder for Singapore AI Association, har foreslått felles internasjonale regler, et internasjonalt styringsorgan og nasjonale tilsyn som følger opp at reglene etterleves. Målet hans er sikkerhetsvurderinger som har internasjonal tillit og kan etterprøves uavhengig – etablert raskere enn de tilsvarende ordningene i luftfarten ble utviklet. Dette er et forslag, ikke en ordning som allerede er på plass. 23

Et første skritt vil være å avklare hva uavhengige evaluatorer skal få tilgang til, hvordan tester og hendelser skal dokumenteres, og hvilken dokumentasjon som må foreligge før de mest betydningsfulle egenskapene tas i bruk. Det avgjør ikke alle spørsmål om framtidig KI-risiko. Men det gjør påstander om sikkerhet mulig å etterprøve – et alternativ til både et ubegrenset kappløp og full stans. 172355