Derfor avviser Storbritannia en AI-«nødstopp» for farlige modeller

Storbritannias avvisning av en nødmekanisme for å «skru av» farlig kunstig intelligens betyr ikke at regjeringen avviser risikoen fra avanserte modeller. Hovedinnvendingen er at en fullmakt som bare gjelder i Storbritannia, vil være ufullstendig: Å stenge tilgang, en modell eller et datasenter innenlands hindrer ikke at tilsvarende systemer utvikles, driftes eller misbrukes andre steder. 1

Dermed står striden om noe mer enn en rød knapp. Regjeringen mener den allerede har virkemidler ved alvorlige cyberhendelser, og at reglene kan skjerpes dersom frivillige sikkerhetstiltak svikter. Tilhengere av nye regler mener derimot at planlegging for katastrofal risiko krever uttrykkelige, håndhevbare fullmakter før en krise inntreffer. 1617

Hva skulle en AI-«nødstopp» innebære?

Lord Tim Clement-Jones foreslo et tillegg til lovforslaget Cyber Security and Resilience Bill. Det skulle opprette en juridisk mekanisme for nødinngripen mot farlig AI: som siste utvei kunne staten deaktivere en AI-modell eller stanse drift ved britiske datasentre dersom et system utgjorde en alvorlig sikkerhets- eller driftsrisiko. 26

Forslaget ble viktig fordi dagens cyberregler først og fremst handler om sikkerheten i nettverks- og informasjonssystemer. Kritikere har pekt på at de ikke tydelig etablerer et særskilt rammeverk for tilsyn med utviklere av de mest avanserte modellene, eller for håndtering av risiko som en autonom modell selv kan skape. 15

Regjeringens argument: AI kan ikke bare slås av nasjonalt

Regjeringens innvending handler i bunn og grunn om jurisdiksjon. Cabinet Office – det britiske regjeringskontoret med ansvar for blant annet AI-sikkerhet – sier at landet «ikke bare kan skru av AI»: Å blokkere tilgang i Storbritannia stanser ikke utvikling eller misbruk i andre land. 1

Det er også den praktiske begrensningen ved en nasjonal stansefullmakt. Den kan gripe inn mot infrastruktur som befinner seg i Storbritannia, men kan ikke alene fjerne modellvekter, stoppe tjenester som kjører utenfor landet eller hindre utenlandske aktører i å utvikle sammenlignbar teknologi. En slik fullmakt kan derfor bidra til å begrense en lokal hendelse, men er ikke en komplett løsning på en grenseoverskridende teknologi.

Tidligere OpenAI-forsker Daniel Kokotajlo har fremmet et nært beslektet argument. En ensidig nedstenging er utilstrekkelig uten internasjonal enighet, mener han. Han beskrev slike virkemidler som bedre enn ingen virkemidler, men pekte på diplomati – særlig samarbeid med USA – som viktigere for å bremse eller styre utviklingen av de mest avanserte modellene. 14

Hvorfor ministrene viser til eksisterende cyberfullmakter

Regjeringens alternativ er ikke bare å vente på at selskapene skal ordne opp selv. Ministrene har hevdet at Cyber Security and Resilience Bill allerede gir grunnlag for å gripe inn når kompromitterte nettverks- eller informasjonssystemer truer nasjonal sikkerhet. Det kan omfatte krav om at en virksomhet slutter å bruke og isolerer en AI-modell. 16

AI-minister Kanishka Narayan har samtidig sagt at regjeringen vil vurdere bindende regler for avanserte modeller dersom frivillige sikkerhetstiltak før lansering ikke lenger beskytter offentligheten. Storbritannias AI Security Institute får i dag tilgang til modeller før lansering gjennom frivillige avtaler med blant andre OpenAI, Anthropic og Google. 17

Uenigheten kan oppsummeres slik:

• Regjeringens syn: Målrettede cyberfullmakter, utvikleransvar, frivillig modelltilgang og internasjonalt samarbeid er mer praktisk enn en britisk av-knapp.
• Kritikernes syn: Frivillig tilgang og generelle cyberfullmakter erstatter ikke lovhjemmel til å kreve testing, ilegge begrensninger eller stanse utrulling når risikoen blir uakseptabel.

Sobels forslag: forbud mot ukontrollerbar superintelligens

Et separat initiativ fra Labour-parlamentsmedlem Alex Sobel går lenger enn en nødmekanisme. Ifølge omtalen av hans foreslåtte AI Security Bill vil loven forby utvikling, utrulling og drift av kunstig superintelligens, særlig systemer som mennesker ikke kan kontrollere. 23

Tilnærmingen er forebyggende snarere enn reaktiv. I stedet for bare å satse på en nedstenging etter at et farlig system er i drift, vil forslaget gi myndighetene en rolle i overvåking og kontroll av utviklingsløpet gjennom AI-forsyningskjeden – også på brikkenivå. 7

Forslaget ser også utover britiske grenser. Regjeringen skulle pålegges å søke en internasjonal avtale som hindrer ukontrollerbar superintelligens. Det reflekterer at datakraft, modellutvikling og utrulling er fordelt mellom flere jurisdiksjoner. 3

Hvorfor lovforslaget møter motbakke

Sobels initiativ er et privat lovforslag fra et parlamentsmedlem. Slike forslag trenger normalt støtte fra regjeringen for å komme videre. Regjeringens motstand mot den beslektede nødstopp-ideen tyder på begrenset vilje til denne typen inngripen på kort sikt. 21

Storbritannia støtter seg fortsatt i stor grad på eksisterende lovverk, sektormyndigheter og frivillige ordninger for de mest avanserte modellene, heller enn én bred AI-lov med sterke håndhevingsmuligheter før lansering. Narayan har åpnet for strengere regulering, men først dersom dagens frivillige modell viser seg utilstrekkelig. 17

Det etterlater et sentralt politisk spørsmål: Hvor tydelig må svikten være før bindende fullmakter opprettes? Tilhengere av lovfestede sikkerhetstiltak mener det kan være farlig å vente på et klart havari når bekymringen gjelder en hendelse som både kan utvikle seg raskt og få store konsekvenser.

Den egentlige avveiningen

Debatten handler ikke bare om hvorvidt staten skal ha en knapp å trykke på. Den handler om rekkefølgen og rekkevidden av kontrollen:

1. Forebygging: Tilsyn med datakraft, brikker, trening, testing og utrulling før et system lanseres.
2. Inngripen: Klare fullmakter til å isolere eller stanse systemer som skaper en akutt sikkerhetsrisiko.
3. Internasjonal samordning: Avtaler som reduserer muligheten for å omgå regler ved å flytte aktivitet mellom land, og som gjør nasjonale tiltak mer virkningsfulle.

Regjeringen har avvist en frittstående britisk nødstopp fordi den anser den som utilstrekkelig mot en global trussel. Kritikerne godtar i stor grad begrensningen, men trekker motsatt konklusjon: Storbritannia bør kombinere lovfestede, nasjonale fullmakter med internasjonalt samarbeid – ikke behandle det ene som en erstatning for det andre. 1316