Storbritannien avvisar AI-knapp för nödstopp – men debatten om katastrofrisker hårdnar

Storbritanniens regering säger nej till en lagstadgad AI-"kill switch" – en slags nödstoppknapp för farliga AI-system. Det betyder inte att regeringen avfärdar riskerna. Invändningen handlar i stället om räckvidd: Storbritannien kan möjligen stänga av åtkomst, modeller eller datacenter på eget territorium, men kan inte förhindra att motsvarande system utvecklas, drivs eller missbrukas i andra länder. 1

Därmed har en tydlig konflikt uppstått. Ministrarna anser att det redan finns vägar att ingripa vid allvarliga cyberincidenter och att hårdare regler kan införas om frivilliga skydd inte räcker. Förespråkarna för nya befogenheter menar däremot att planeringen för katastrofrisker måste innehålla uttryckliga och verkställbara regler redan före en nödsituation. 1617

Vad förslaget om nödstopp skulle innebära

Liberal Democrats ledamot i överhuset Lord Tim Clement-Jones föreslog ett tillägg till Cyber Security and Resilience Bill. Det skulle skapa en rättslig mekanism för staten att i ett nödläge ingripa mot farlig AI: stänga av en modell eller datacenterverksamhet i Storbritannien om systemet utgjorde ett allvarligt säkerhets- eller drifthot. Förslaget var tänkt som en sista utväg. 26

Frågan har betydelse eftersom dagens cybersäkerhetsregler främst är inriktade på säkerheten i nätverk och informationssystem. Kritiker menar att de inte tydligt skapar ett särskilt system för tillsyn av dem som utvecklar de mest avancerade modellerna, eller för hantering av risker som uppstår genom en autonom AI-modell i sig. 15

Regeringens argument: AI går inte bara att stänga av i ett land

Cabinet Office, det brittiska regeringskansli som bland annat ansvarar för AI-säkerhet, pekar på jurisdiktion. Storbritannien kan, enligt dess formulering, inte ”bara stänga av AI”. Att blockera åtkomsten inom landet skulle inte hindra en kapabel modell från att byggas eller utnyttjas någon annanstans. 1

Det är den praktiska begränsningen med en nationell nödstoppbefogenhet. Den kan störa infrastruktur som finns inom brittisk räckvidd, men kan inte på egen hand radera modellvikter, stänga externa tjänster eller hindra aktörer i andra länder från att bygga jämförbara system. Ett inhemskt ingripande kan alltså fortfarande begränsa en lokal incident, men är inte en fullständig lösning på en gränsöverskridande teknik.

Den tidigare OpenAI-forskaren Daniel Kokotajlo framförde ett närliggande resonemang. En ensidig avstängning skulle vara otillräcklig utan en internationell överenskommelse, sade han enligt rapporteringen. Han beskrev sådana verktyg som bättre än inga alls, men ansåg att diplomati – särskilt samarbete med USA – är viktigare för att bromsa eller styra utvecklingen av de mest avancerade modellerna. 14

Därför hänvisar ministrarna till befintliga cyberbefogenheter

Regeringens alternativ är inte enbart att förlita sig på företagens egna åtgärder. Ministrarna har sagt att Cyber Security and Resilience Bill redan ger grund för ingripanden när komprometterade nätverks- eller informationssystem skapar en nationell säkerhetsrisk. Det kan enligt regeringen omfatta krav på att en organisation slutar använda och isolerar en AI-modell. 16

AI-ministern Kanishka Narayan har samtidigt sagt att regeringen kan överväga bindande regler för avancerade modeller om de frivilliga skyddsåtgärderna före lansering inte längre skyddar allmänheten. Storbritanniens AI Security Institute får i dag, genom frivilliga överenskommelser, tillgång före lansering till modeller från bland andra OpenAI, Anthropic och Google. 17

Här ligger kärnan i motsättningen:

• Regeringens linje: Riktade cyberbefogenheter, utvecklarnas ansvar, frivillig tillgång till modeller och internationellt samarbete är mer användbart än en brittisk avstängningsknapp.
• Kritikernas linje: Frivillig tillgång och allmänna cyberbefogenheter ersätter inte lagstöd för att kräva tester, införa begränsningar eller stoppa en lansering när riskerna blir oacceptabla.

Alex Sobels lagförslag går längre

Ett separat initiativ från Labour-ledamoten Alex Sobel går längre än en befogenhet för nödstopp. Hans föreslagna AI Security Bill skulle enligt rapporteringen förbjuda utveckling, utplacering och drift av artificiell superintelligens – särskilt system som människor inte kan kontrollera. 23

Ansatsen är förebyggande snarare än reaktiv. I stället för att främst förlita sig på avstängning efter att ett farligt system tagits i bruk, skulle lagen ge staten en roll i att övervaka och styra utvecklingskedjan i AI:s leverantörskedja, inklusive på chipnivå. 7

Förslaget har också en internationell dimension. Regeringen skulle behöva söka en internationell överenskommelse för att förhindra okontrollerad superintelligens. Det speglar att beräkningskapacitet, modellutveckling och driftsättning är spridda över flera jurisdiktioner. 3

Varför vägen till lag är svår

Sobels förslag är ett så kallat private member’s bill, alltså ett lagförslag från en enskild parlamentsledamot och inte från regeringen. Sådana förslag behöver normalt regeringens stöd för att gå vidare. Regeringens motstånd mot det närliggande förslaget om nödstopp tyder därför på begränsad vilja till denna typ av ingripanden på kort sikt. 21

Storbritannien förlitar sig i hög grad fortfarande på befintlig lagstiftning, sektorsmyndigheter och frivilliga arrangemang för avancerade AI-modeller, snarare än en samlad AI-lag med breda, verkställbara befogenheter före lansering. Narayan har öppnat för starkare reglering, men först om den frivilliga modellen visar sig otillräcklig. 17

Det lämnar en avgörande politisk fråga: Hur tydligt måste ett misslyckande vara innan bindande befogenheter skapas? Förespråkare för lagstadgade skydd menar att det kan vara riskabelt att invänta ett tydligt haveri när oron gäller en snabbt framväxande händelse med mycket stora konsekvenser.

En hårdnande diskussion om AI-risker

Förslaget om nödstopp har kommit i en period med rapporter om AI-säkerhetsincidenter och oro för modeller som kringgår skyddsräcken eller missbrukas för cyberverksamhet. För vissa politiker och AI-säkerhetsförespråkare har det gjort risken för förlorad kontroll mer konkret. 12

Debatten präglas också av en tydlig skillnad i regelstrategi. EU har antagit AI-förordningen, AI Act, medan Storbritannien har valt en lättare, sektorsstyrd modell som kompletteras av frivilliga tester av de mest avancerade systemen före lansering. 17

Ingen av modellerna löser ensam problemet med internationell samordning. Ett mycket kapabelt system kan tränas, driftas, kopieras eller distribueras över gränser. Men tvisten om nödstoppet blottlägger en mer omedelbar fråga: bör Storbritannien ha uttalade lagbefogenheter för att ingripa innan frivilligt samarbete eller befintliga cyberregler prövas i en verklig kris?

Det egentliga vägvalet

Striden handlar alltså inte bara om huruvida staten ska ha en knapp att trycka på. Den handlar om ordningen och omfattningen av kontrollen:

1. Förebyggande: Tillsyn över beräkningskapacitet, chip, träning, testning och driftsättning innan ett system släpps.
2. Ingripande: Klara befogenheter att isolera eller stoppa system som innebär en akut säkerhetsrisk.
3. Internationell samordning: Avtal som minskar möjligheten att flytta riskfylld verksamhet till länder med svagare regler och som gör nationella skydd mer verkningsfulla.

Regeringen avvisar en fristående brittisk nödstoppknapp eftersom den bedöms vara otillräcklig mot ett globalt hot. Kritikerna accepterar den begränsningen men drar motsatt slutsats: Storbritannien bör kombinera nationella lagbefogenheter med internationellt samarbete, inte behandla det ena som en ersättning för det andra. 1316