Waarom het VK een AI-‘noodknop’ afwijst

De afwijzing van een AI-‘noodknop’ door de Britse regering betekent niet dat zij de risico’s van gevaarlijke modellen ontkent. Het kernargument is dat een bevoegdheid die alleen in het Verenigd Koninkrijk geldt onvolledig is: het uitschakelen van toegang, een model of een datacenter in eigen land verhindert niet dat vergelijkbare systemen elders worden ontwikkeld, gehost of misbruikt. 1

Daarmee is het beleidsconflict scherper geworden. Ministers stellen dat er al mogelijkheden zijn om bij ernstige cyberincidenten in te grijpen en dat regels aangescherpt kunnen worden als vrijwillige veiligheidsmaatregelen tekortschieten. Voorstanders van nieuwe wetgeving vinden juist dat er vóór een crisis expliciete, afdwingbare bevoegdheden moeten bestaan. 1617

Wat de voorgestelde noodknop zou doen

Lord Tim Clement-Jones stelde een amendement voor op de Cyber Security and Resilience Bill. Dat zou een wettelijke regeling creëren voor noodinterventie bij gevaarlijke AI. De maatregel was bedoeld als laatste redmiddel: de overheid zou een AI-model kunnen deactiveren of activiteiten van Britse datacenters kunnen stilleggen wanneer een systeem een ernstige veiligheids- of operationele dreiging vormde. 26

Dat voorstel is relevant omdat de bestaande cyberregels vooral zijn gericht op de beveiliging van netwerk- en informatiesystemen. Critici zeggen dat die regels geen helder, specifiek kader bieden voor toezicht op ontwikkelaars van geavanceerde modellen, of voor risico’s die van een autonoom model zelf uitgaan. 15

Het argument van de regering: AI is niet met één nationale knop uit te zetten

Het bezwaar van het Cabinet Office — het Britse ministerie dat onder meer AI-veiligheid coördineert — draait vooral om rechtsmacht. In de woorden van de regering: het VK kan AI niet simpelweg “uitzetten”. Toegang in Groot-Brittannië beperken verhindert niet dat een krachtig model in een ander land wordt gebouwd of benut. 1

Dat is ook de praktische beperking van een nationale uitschakelbevoegdheid. Zo’n maatregel kan infrastructuur binnen Brits bereik verstoren, maar kan op zichzelf geen modelgewichten verwijderen, buitenlandse clouddiensten stilleggen of voorkomen dat buitenlandse partijen vergelijkbare capaciteiten ontwikkelen. Bij een lokaal incident kan zij nog steeds helpen om schade in te dammen, maar als antwoord op een grensoverschrijdende technologie is zij niet afdoende.

Voormalig OpenAI-onderzoeker Daniel Kokotajlo bracht in berichtgeving over het voorstel een vergelijkbaar punt naar voren. Een eenzijdige sluiting zou volgens hem zonder internationale afspraken onvoldoende zijn. Hij ziet zulke instrumenten als beter dan niets, maar vindt diplomatie — vooral samenwerking met de Verenigde Staten — belangrijker voor het afremmen of sturen van de ontwikkeling van frontier-AI. 14

Waarom ministers verwijzen naar bestaande cyberbevoegdheden

Het alternatief van de regering is niet simpelweg wachten tot bedrijven uit zichzelf handelen. Ministers hebben aangevoerd dat de Cyber Security and Resilience Bill al een basis biedt voor ingrijpen wanneer gecompromitteerde netwerk- of informatiesystemen een risico voor de nationale veiligheid vormen. Dat kan volgens hen ook betekenen dat een organisatie wordt verplicht te stoppen met het gebruik van een AI-model en het model te isoleren. 16

AI-minister Kanishka Narayan heeft daarnaast gezegd dat de regering bindende regels voor geavanceerde modellen wil overwegen als vrijwillige waarborgen vóór inzet onvoldoende blijken om het publiek te beschermen. Het Britse AI Security Institute krijgt momenteel via vrijwillige afspraken vóór publieke uitrol toegang tot modellen van onder meer OpenAI, Anthropic en Google. 17

Daarmee komt het fundamentele verschil van inzicht neer op het volgende:

• De regering: gerichte cyberbevoegdheden, verantwoordelijkheid van ontwikkelaars, vrijwillige modeltoegang en internationale samenwerking zijn werkbaarder dan een uitsluitend Britse uitknop.
• De critici: vrijwillige toegang en algemene cyberbevoegdheden vervangen geen wettelijke macht om tests te eisen, beperkingen op te leggen of uitrol te stoppen zodra risico’s onaanvaardbaar worden.

Wat Alex Sobels AI Security Bill beoogt

Een afzonderlijk initiatief van Labour-parlementariër Alex Sobel gaat verder dan noodbevoegdheden voor uitschakeling. Volgens de berichtgeving zou zijn voorgestelde AI Security Bill de ontwikkeling, inzet en exploitatie van kunstmatige superintelligentie verbieden, in het bijzonder systemen die mensen niet onder controle kunnen houden. 23

De aanpak is preventief in plaats van reactief. Niet alleen een systeem stilleggen nadat het gevaarlijk actief is geworden, maar de overheid toezicht laten houden op en grip laten krijgen op de ontwikkelingsketen van AI — inclusief op chipniveau. 7

Het voorstel kijkt ook over de grens. De regering zou moeten streven naar een internationale overeenkomst om ongecontroleerde superintelligentie te voorkomen. Daarmee wordt erkend dat rekenkracht, modelontwikkeling en inzet over meerdere rechtsgebieden zijn verspreid. 3

Waarom de kans op snelle invoering klein is

Sobels voorstel is een initiatiefwet van een individueel parlementslid. Zulke wetsvoorstellen hebben doorgaans steun van de regering nodig om verder te komen. De weerstand van de regering tegen de verwante noodknop wijst daarom op weinig politieke ruimte voor dit type ingrijpen op korte termijn. 21

Breder gezien leunt het VK nog sterk op bestaande wetgeving, toezichthouders per sector en vrijwillige afspraken met ontwikkelaars van frontier-modellen, in plaats van op één brede AI-wet met afdwingbare bevoegdheden vóór een model wordt ingezet. Narayan heeft zwaardere regulering niet uitgesloten, maar pas als de huidige vrijwillige aanpak onvoldoende blijkt. 17

Dat laat een belangrijke beleidsvraag open: hoeveel bewijs van falen is nodig voordat bindende bevoegdheden worden ingevoerd? Voorstanders van wettelijke waarborgen stellen dat wachten op een duidelijk incident gevaarlijk kan zijn wanneer het risico bestaat uit een snel escalerende gebeurtenis met grote gevolgen.

Waarom het debat over AI-risico’s is verhard

Het voorstel voor een noodknop kwam op terwijl er berichten verschenen over AI-beveiligingsincidenten en zorgen over modellen die veiligheidsbegrenzingen omzeilen of voor cyberactiviteiten worden misbruikt. Daardoor is de mogelijkheid van verlies van controle voor sommige parlementariërs en AI-veiligheidsvoorstanders minder abstract geworden. 12

Ook het verschil in reguleringsaanpak speelt mee. De Europese Unie heeft de AI Act aangenomen, terwijl het VK kiest voor een lichtere, sectorgerichte benadering, aangevuld met vrijwillige tests van frontier-systemen vóór inzet. 17

Geen van beide modellen lost het internationale coördinatieprobleem zelfstandig op. Een zeer capabel systeem kan in verschillende landen worden getraind, gehost, gekopieerd of uitgerold. Maar het conflict over de noodknop legt een directere vraag bloot: moet Groot-Brittannië al duidelijke wettelijke bevoegdheden creëren om in te grijpen voordat vrijwillige samenwerking of bestaande cyberbevoegdheden in een crisis op de proef worden gesteld?

De werkelijke beleidskeuze

De discussie gaat dus niet alleen over de vraag of de overheid op een knop moet kunnen drukken. Zij gaat over de volgorde en reikwijdte van controle:

1. Preventie: toezicht op rekenkracht, chips, training, tests en uitrol voordat een systeem beschikbaar komt.
2. Interventie: heldere bevoegdheden om systemen die een acuut veiligheidsrisico opleveren te isoleren of stil te leggen.
3. Internationale coördinatie: afspraken die regelgevingsarbitrage beperken en nationale waarborgen effectiever maken.

De regering heeft een losse nationale noodknop afgewezen omdat die volgens haar tekortschiet tegen een mondiale dreiging. Critici erkennen die beperking, maar trekken de tegenovergestelde conclusie: combineer wettelijke nationale bevoegdheden met internationale samenwerking, in plaats van het ene als vervanging voor het andere te behandelen. 1316