Warum Großbritannien keinen KI-„Notausschalter“ einführt

Die britische Regierung bestreitet nicht, dass hochentwickelte KI-Systeme gefährlich werden können. Ihre Begründung gegen einen gesetzlichen „Kill Switch“ lautet vielmehr: Eine Befugnis, die nur im Vereinigten Königreich greift, wäre gegen eine grenzüberschreitende Technologie nur begrenzt wirksam. Würde London den Zugang zu einem Modell oder ein Rechenzentrum im Land abschalten, könnte ein ähnliches System weiterhin anderswo entwickelt, betrieben oder missbraucht werden. 1

Genau darin liegt der Kern des Streits: Die Regierung verweist auf bestehende Befugnisse im Bereich Cybersicherheit, freiwillige Sicherheitsprüfungen und internationale Zusammenarbeit. Befürworter zusätzlicher Regeln halten dagegen, dass für katastrophale Risiken klare, gesetzlich durchsetzbare Eingriffsmöglichkeiten nötig seien – und zwar bevor es zum Ernstfall kommt. 1617

Was der vorgeschlagene Notausschalter ermöglicht hätte

Der liberaldemokratische Lord Tim Clement-Jones wollte den Cyber Security and Resilience Bill – ein Gesetzesvorhaben zur Cyberresilienz – um eine Notfallbefugnis ergänzen. Der Staat hätte damit als letztes Mittel ein gefährliches KI-Modell deaktivieren oder den Betrieb britischer Rechenzentren stoppen können, wenn von einem System eine schwere Sicherheits- oder Betriebsgefahr ausgeht. 26

Der Vorstoß ist auch deshalb relevant, weil sich bestehende Cyberregeln vor allem auf die Sicherheit von Netz- und Informationssystemen beziehen. Kritiker bezweifeln, dass sie einen spezifischen Rechtsrahmen für Entwickler besonders leistungsfähiger KI-Modelle oder für Risiken eines autonomen Modells selbst schaffen. 15

Die Regierung: KI lässt sich nicht einfach national abschalten

Das Cabinet Office, die für KI-Sicherheit zuständige Regierungsstelle, argumentiert vor allem mit der begrenzten Reichweite nationaler Zuständigkeiten. Großbritannien könne KI nicht einfach „abschalten“: Ein blockierter Zugang im Land hindere niemanden daran, vergleichbare Modelle im Ausland zu entwickeln oder einzusetzen. 1

Praktisch bedeutet das: Eine nationale Abschaltbefugnis könnte Infrastruktur erfassen, die britischer Hoheit unterliegt. Sie könnte aber weder Modellgewichte außerhalb des Landes beseitigen noch ausländische Dienste stilllegen oder andere Akteure daran hindern, ähnliche Fähigkeiten aufzubauen. Bei einem lokalen Vorfall könnte sie also zur Eindämmung beitragen – eine vollständige Antwort auf das Problem wäre sie nicht.

Der frühere OpenAI-Forscher Daniel Kokotajlo äußerte eine ähnliche Einschätzung. Eine einseitige Abschaltung sei ohne internationale Vereinbarung unzureichend. Solche Werkzeuge seien zwar besser als gar keine, entscheidender sei aber Diplomatie – besonders die Zusammenarbeit mit den USA –, um die Entwicklung hochleistungsfähiger KI zu verlangsamen oder zu steuern. 14

Warum Minister auf bestehende Cyberbefugnisse verweisen

Die Regierung setzt nicht allein auf Selbstverpflichtungen der Unternehmen. Nach Darstellung der Minister enthält der Cyber Security and Resilience Bill bereits Möglichkeiten zum Eingreifen, wenn kompromittierte Netz- oder Informationssysteme die nationale Sicherheit gefährden. Dazu könnten Maßnahmen gehören, die eine Organisation verpflichten, die Nutzung eines KI-Modells zu beenden und es zu isolieren. 16

KI-Minister Kanishka Narayan erklärte zudem, die Regierung werde verbindliche Regeln für fortgeschrittene Modelle erwägen, falls freiwillige Schutzvorkehrungen vor der Veröffentlichung nicht mehr ausreichen. Das britische AI Security Institute erhält derzeit auf freiwilliger Grundlage vorab Zugang zu Modellen von Unternehmen wie OpenAI, Anthropic und Google, um Fähigkeiten und Risiken zu prüfen. 17

Damit prallen zwei Positionen aufeinander:

• Position der Regierung: Zielgerichtete Cyberbefugnisse, Verantwortung der Entwickler, freiwilliger Modellzugang und internationale Kooperation seien praktikabler als ein britischer Ein-Aus-Schalter.
• Position der Kritiker: Freiwilliger Zugang und allgemeine Cyberbefugnisse ersetzten keine gesetzliche Grundlage, um Tests anzuordnen, Auflagen durchzusetzen oder eine Einführung bei unvertretbaren Risiken zu stoppen.

Was Alex Sobels KI-Sicherheitsgesetz vorsieht

Ein separater Vorstoß des Labour-Abgeordneten Alex Sobel geht deutlich weiter als ein reines Notabschaltrecht. Sein vorgeschlagener AI Security Bill soll die Entwicklung, Bereitstellung und den Betrieb künstlicher Superintelligenz verbieten – insbesondere dann, wenn solche Systeme nicht von Menschen kontrolliert werden können. 23

Der Ansatz ist präventiv: Statt erst nach der Inbetriebnahme eines gefährlichen Systems zu reagieren, soll der Staat die Entwicklung entlang der gesamten KI-Lieferkette überwachen und steuern können, einschließlich auf Ebene der Chips. 7

Auch Sobels Entwurf erkennt die internationale Dimension an. Die Regierung soll auf ein internationales Abkommen hinarbeiten, das unkontrollierte Superintelligenz weltweit verhindert. Denn Rechenleistung, Modellentwicklung und Einsatz sind über viele Staaten verteilt. 3

Warum der Entwurf kaum leicht durchkommen dürfte

Bei Sobels Vorlage handelt es sich um einen Gesetzentwurf eines einzelnen Abgeordneten. Solche Private Member’s Bills benötigen in der Regel Unterstützung der Regierung, um im Parlament voranzukommen. Die Ablehnung des verwandten Notausschalter-Vorschlags deutet darauf hin, dass die Regierung für einen so weitreichenden Eingriff kurzfristig wenig offen ist. 21

Grundsätzlich setzt Großbritannien bislang vor allem auf bestehende Gesetze, sektorale Aufsichtsbehörden und freiwillige Vereinbarungen mit Entwicklern besonders leistungsfähiger Modelle – nicht auf ein umfassendes KI-Gesetz mit weitreichenden Durchsetzungsbefugnissen vor der Veröffentlichung. Narayan hat strengere Regeln zwar nicht ausgeschlossen, sie aber an den Fall geknüpft, dass das freiwillige System nicht genügt. 17

Die offene politische Frage lautet daher: Wie deutlich muss das heutige System versagen, bevor verbindliche Eingriffsbefugnisse geschaffen werden? Befürworter gesetzlicher Schutzvorkehrungen warnen, dass es bei schnell eintretenden Ereignissen mit großen Folgen gefährlich sein könnte, erst auf einen klaren Fehlschlag zu warten.

Ein Streit über den Zeitpunkt staatlicher Kontrolle

Der Konflikt dreht sich letztlich nicht um einen einzelnen Knopf. Es geht um drei Ebenen der Kontrolle:

1. Prävention: Aufsicht über Rechenleistung, Chips, Training, Tests und Einsatz, bevor ein System veröffentlicht wird.
2. Intervention: Eindeutige Befugnisse, Systeme mit akuter Sicherheitsgefahr zu isolieren oder stillzulegen.
3. Internationale Koordinierung: Vereinbarungen, die regulatorische Ausweichbewegungen erschweren und nationale Schutzmaßnahmen wirksamer machen.

Die britische Regierung lehnt einen eigenständigen nationalen Notausschalter ab, weil sie ihn angesichts eines globalen Risikos für unzureichend hält. Kritiker akzeptieren diese Grenze, ziehen aber den gegenteiligen Schluss: Großbritannien sollte nationale, gesetzlich abgesicherte Befugnisse und internationale Zusammenarbeit kombinieren – statt das eine als Ersatz für das andere zu behandeln. 1316