Derfor afviser Storbritannien en AI-nødstopknap

Den britiske regerings afvisning af en AI-»kill switch« betyder ikke, at den afviser risikoen ved farlige modeller. Hovedargumentet er, at en beføjelse, som kun gælder i Storbritannien, ikke vil være dækkende: At lukke for adgang, en model eller et datacenter i landet forhindrer ikke, at tilsvarende systemer udvikles, hostes eller misbruges andre steder. 1

Det har skærpet den politiske strid. Ministre siger, at der allerede findes muligheder for at gribe ind ved alvorlige cyberhændelser, og at reguleringen kan strammes, hvis frivillige sikkerhedsordninger svigter. Tilhængere af nye beføjelser mener derimod, at planlægning for katastrofale risici kræver klare, håndhævelige regler, før nødsituationen indtræffer. 1617

Hvad skulle nødstopknappen kunne?

Lord Tim Clement-Jones foreslog en ændring til lovforslaget Cyber Security and Resilience Bill. Den skulle skabe en juridisk mekanisme til akut indgriben over for farlig AI: som sidste udvej at deaktivere en AI-model eller lukke datacenterdrift i Storbritannien, hvis et system udgjorde en alvorlig sikkerheds- eller driftsmæssig trussel. 26

Forslaget er vigtigt, fordi de eksisterende cyberregler først og fremmest retter sig mod sikkerheden i net- og informationssystemer. Kritikere peger på, at reglerne ikke tydeligt etablerer et særskilt system til tilsyn med udviklere af de mest avancerede modeller eller til at håndtere risici, der udspringer af en autonom model selv. 15

Regeringens argument: Man kan ikke bare slukke for AI

Cabinet Office, den del af den britiske centralregering, der blandt andet arbejder med AI-sikkerhed, lægger vægt på jurisdiktion. Som myndigheden formulerer det, kan Storbritannien ikke »bare slukke for AI«: At blokere adgangen til modeller i landet vil ikke forhindre, at de udvikles eller misbruges i andre lande. 1

Det er også den praktiske begrænsning ved en national lukningsbeføjelse. Den kan muligvis afbryde infrastruktur under britisk kontrol, men kan ikke i sig selv fjerne modelvægte, stoppe tjenester, der drives fra udlandet, eller forhindre udenlandske aktører i at udvikle lignende kapaciteter. En national beføjelse kan stadig være nyttig til at inddæmme en lokal hændelse, men den er ikke et fuldt svar på en grænseoverskridende teknologi.

Den tidligere OpenAI-forsker Daniel Kokotajlo fremførte et beslægtet argument i omtalen af forslaget: En ensidig lukning ville være utilstrækkelig uden en international aftale. Han vurderede, at sådanne redskaber er bedre end slet ingen, men at diplomati – især samarbejde med USA – er vigtigere for at bremse eller styre udviklingen af de mest avancerede modeller. 14

Derfor henviser ministrene til de eksisterende cyberbeføjelser

Regeringens alternativ er ikke blot at afvente virksomhedernes egne valg. Ministre har sagt, at Cyber Security and Resilience Bill allerede giver grundlag for indgriben, når kompromitterede net- eller informationssystemer udgør en national sikkerhedsrisiko. Det kan blandt andet omfatte krav om, at en organisation stopper brugen af og isolerer en AI-model. 16

AI-minister Kanishka Narayan har desuden sagt, at regeringen vil overveje bindende regler for avancerede modeller, hvis frivillige sikkerhedsforanstaltninger før lancering ikke længere beskytter offentligheden. Storbritanniens AI Security Institute får i dag adgang før lancering til modeller fra blandt andre OpenAI, Anthropic og Google via frivillige aftaler. 17

Kernen i uenigheden er derfor:

• Regeringens syn: Målrettede cyberbeføjelser, udvikleransvar, frivillig adgang til modeller og internationalt samarbejde er mere anvendeligt end en britisk slukknap.
• Kritikernes syn: Frivillig adgang og generelle cyberbeføjelser kan ikke erstatte lovhjemmel til at kræve test, indføre begrænsninger eller standse udrulning, når risikoen bliver uacceptabel.

Hvad vil Alex Sobels AI Security Bill?

Et særskilt initiativ fra Labour-parlamentsmedlemmet Alex Sobel går videre end akutte lukningsbeføjelser. Ifølge omtalen af hans foreslåede AI Security Bill vil loven forbyde udvikling, udrulning og drift af kunstig superintelligens – særligt systemer, der ikke kan kontrolleres af mennesker. 23

Tilgangen er forebyggende frem for reaktiv. I stedet for alene at satse på en nedlukning, efter et farligt system er i drift, vil lovforslaget give regeringen en rolle i overvågning og kontrol af udviklingsforløbet på tværs af AI-forsyningskæden, også på chipniveau. 7

Forslaget rækker også ud over Storbritanniens grænser. Regeringen skulle pålægges at søge en international aftale, der skal forhindre ukontrolleret superintelligens. Det afspejler, at regnekraft, modeludvikling og udrulning er fordelt på tværs af lande. 3

Hvorfor er vejen til en lov svær?

Sobels forslag er et privat medlemsforslag. Den type lovforslag kræver normalt regeringens opbakning for at komme videre, og regeringens modstand mod det beslægtede forslag om en nødstopknap peger på begrænset appetit på denne form for indgriben på kort sigt. 21

Mere grundlæggende bygger Storbritannien fortsat i høj grad på eksisterende lovgivning, sektortilsyn og frivillige aftaler med udviklere af de mest avancerede AI-modeller frem for én samlet AI-lov med brede, håndhævelige krav før lancering. Narayan har holdt døren åben for hårdere regulering, men først hvis den nuværende frivillige model viser sig utilstrækkelig. 17

Det efterlader et centralt politisk spørgsmål: Hvor tydeligt skal et svigt være, før der skabes bindende beføjelser? Tilhængere af lovfæstede sikkerhedsforanstaltninger mener, at det kan være farligt at vente på et klart svigt, når bekymringen er en hurtigt udviklende hændelse med potentielt meget store konsekvenser.

Hvorfor er den bredere debat blevet skærpet?

Forslaget om en nødstopknap kom i kølvandet på rapporter om AI-sikkerhedshændelser og bekymringer for, at modeller kan omgå sikkerhedsforanstaltninger eller misbruges til cyberaktivitet. Det har gjort risikoen for tab af kontrol mere konkret for nogle politikere og sikkerhedsfortalere. 12

Debatten præges også af en reguleringsmæssig kontrast. EU har vedtaget AI-forordningen, AI Act, mens Storbritannien har valgt en lettere, sektorbaseret model suppleret af frivillig test før lancering af de mest avancerede systemer. 17

Ingen af tilgange løser alene problemet med international koordinering. Et meget kapabelt system kan trænes, hostes, kopieres eller sættes i drift på tværs af grænser. Men striden om nødstopknappen blotlægger et mere umiddelbart spørgsmål: Bør Storbritannien skabe udtrykkelige juridiske beføjelser til at gribe ind, før frivilligt samarbejde eller eksisterende cyberbeføjelser sættes på prøve i en krise?

Det reelle politiske valg

Striden handler ikke kun om, hvorvidt staten skal have en knap at trykke på. Den handler om rækkefølgen og omfanget af kontrollen:

1. Forebyggelse: Tilsyn med regnekraft, chips, træning, test og udrulning, før et system frigives.
2. Indgriben: Klare beføjelser til at isolere eller standse systemer, der skaber en akut sikkerhedsrisiko.
3. International koordinering: Aftaler, der begrænser reguleringsarbitrage og gør nationale sikkerhedsforanstaltninger mere effektive.

Regeringen har afvist en selvstændig national nødstopknap, fordi den ser den som utilstrækkelig over for en global trussel. Kritikerne accepterer begrænsningen, men drager den modsatte konklusion: Storbritannien bør kombinere nationale, lovfæstede beføjelser med internationalt samarbejde – ikke behandle det ene som en erstatning for det andet. 1316