Proč Británie odmítla nouzový „vypínač“ pro nebezpečnou AI

Britská vláda odmítla zavést nouzový „vypínač“ pro AI nikoli proto, že by rizika pokročilých modelů zlehčovala. Její hlavní argument zní, že pravomoc omezená na území Spojeného království by byla neúplná: odstavení modelu, přístupu k němu nebo datového centra v Británii by nezabránilo tomu, aby obdobný systém vznikal, běžel či byl zneužíván jinde. 1

Tím se vyostřil spor o podobu regulace. Ministři tvrdí, že stát už má cesty, jak zasáhnout při závažných kybernetických incidentech, a že pravidla lze zpřísnit, pokud dobrovolné pojistky selžou. Zastánci nových pravomocí naopak říkají, že pro katastrofická rizika je nutný výslovný a vymahatelný právní rámec dříve, než nastane krize. 1617

Co by navrhovaný „vypínač“ umožnil

Lord Tim Clement-Jones navrhl pozměňovací návrh k zákonu o kybernetické bezpečnosti a odolnosti (Cyber Security and Resilience Bill). Měl vytvořit právní mechanismus pro nouzový zásah proti nebezpečné AI: jako krajní řešení by stát mohl deaktivovat model AI nebo nařídit zastavení provozu britského datového centra, pokud by systém představoval vážnou bezpečnostní či provozní hrozbu. 26

Návrh je podstatný i proto, že existující kybernetická pravidla míří především na bezpečnost sítí a informačních systémů. Kritici upozorňují, že sama o sobě jasně nezakládají zvláštní režim dohledu nad vývojáři hraničních modelů ani postup pro situaci, kdy riziko vytváří autonomní model jako takový. 15

Argument vlády: AI nelze v jedné zemi jednoduše vypnout

Námitka vládního úřadu Cabinet Office, který koordinuje vládní práci v oblasti bezpečnosti AI, se týká hlavně jurisdikce. Podle jeho vyjádření Británie „nemůže AI jednoduše vypnout“: omezení přístupu v zemi nezabrání tomu, aby schopný model vznikl nebo byl využit v jiné zemi. 1

To je i praktická slabina čistě národní vypínací pravomoci. Stát může narušit infrastrukturu, na kterou dosáhne, ale sám tím neodstraní váhy modelu, nezastaví vzdálené služby mimo své území ani nezabrání zahraničním aktérům ve vývoji srovnatelných schopností. V lokálním incidentu by taková pravomoc přesto mohla pomoci s omezením škod; není ale úplnou odpovědí na přeshraniční technologii.

Bývalý výzkumník OpenAI Daniel Kokotajlo v souvislosti s návrhem formuloval obdobný argument: jednostranné vypnutí by bez mezinárodní dohody nestačilo. Takové nástroje považuje za lepší než žádné, větší význam však podle něj má diplomacie — zejména jednání se Spojenými státy — pro zpomalení nebo správu vývoje hraniční AI. 14

Proč ministři odkazují na stávající kybernetické pravomoci

Postoj vlády neznamená, že by chtěla jen čekat, až firmy zasáhnou samy. Ministři argumentují, že návrh zákona o kybernetické bezpečnosti a odolnosti už poskytuje základ pro intervenci, pokud kompromitované sítě nebo informační systémy ohrožují národní bezpečnost. To může zahrnovat i požadavek, aby organizace přestala model AI používat a izolovala jej. 16

Ministr pro AI Kanishka Narayan zároveň uvedl, že vláda zváží závazná pravidla pro pokročilé modely, pokud dobrovolné bezpečnostní kontroly před nasazením přestanou dostatečně chránit veřejnost. Britský AI Security Institute nyní na základě dobrovolných dohod získává přístup k modelům před jejich uvedením od společností, mezi nimiž jsou OpenAI, Anthropic a Google. 17

Jádro sporu tak vypadá následovně:

• Stanovisko vlády: praktičtější jsou cílené kybernetické pravomoci, odpovědnost vývojářů, dobrovolný přístup k modelům a mezinárodní spolupráce než vypínač použitelný jen v Británii.
• Stanovisko kritiků: dobrovolný přístup ani obecné kybernetické pravomoci nenahrazují zákonnou možnost nařídit testování, uložit omezení nebo zastavit nasazení, když se riziko stane nepřijatelným.

Co navrhuje zákon Alexe Sobela

Samostatná iniciativa labouristického poslance Alexe Sobela jde dál než pouhé nouzové vypnutí. Jeho navrhovaný zákon o bezpečnosti AI by podle dostupných informací zakázal vývoj, nasazení a provoz umělé superinteligence, zejména systémů, které lidé nemohou kontrolovat. 23

Jeho přístup je preventivní, nikoli jen reaktivní. Namísto spoléhání na zásah až ve chvíli, kdy už nebezpečný systém funguje, by stát dohlížel na vývoj napříč dodavatelským řetězcem AI — včetně úrovně čipů. 7

Návrh se výslovně dívá i za hranice Británie: vláda by měla usilovat o mezinárodní dohodu, která by bránila nekontrolovanému rozvoji superinteligence. Jde o uznání skutečnosti, že výpočetní kapacity, vývoj modelů i jejich nasazení jsou rozděleny mezi více zemí. 3

Proč má návrh obtížnou cestu

Sobelův návrh je návrhem soukromého poslance. Aby postoupil, zpravidla potřebuje podporu vlády; její odpor vůči příbuznému návrhu „vypínače“ proto naznačuje malou ochotu k takto rozsáhlému zásahu v nejbližší době. 21

Británie navíc nadále spoléhá především na stávající zákony, sektorové regulátory a dobrovolné dohody s vývojáři hraničních modelů, nikoli na jediný široký zákon o AI s rozsáhlými vymahatelnými pravomocemi před nasazením. Narayan možnost přísnější regulace nevyloučil, váže ji však na případné selhání současného dobrovolného přístupu. 17

Zůstává tedy zásadní politická otázka: kolik důkazů o neúspěchu má být potřeba, než vzniknou závazné pravomoci? Zastánci zákonných pojistek tvrdí, že čekání na zjevné selhání může být u rychle se vyvíjející události s velkým dopadem nebezpečné.

Proč debata o rizicích AI sílí

Návrh vypínače přišel v době zpráv o incidentech v oblasti bezpečnosti AI a obav, že modely mohou obcházet ochranná opatření nebo být zneužívány při kybernetických aktivitách. Pro část poslanců a zastánců bezpečnosti tak možnost ztráty kontroly získala konkrétnější podobu. 12

Spor zvýrazňuje i rozdíl v regulaci. Evropská unie přijala akt o umělé inteligenci (AI Act), zatímco britský přístup je mírnější, opírá se o jednotlivé sektory a doplňuje jej dobrovolným testováním hraničních systémů před jejich nasazením. 17

Ani jeden model sám o sobě neřeší problém mezinárodní koordinace. Vysoce schopný systém lze trénovat, hostovat, kopírovat nebo provozovat přes hranice. Spor o „vypínač“ ale odhaluje bezprostřednější dilema: má Británie vytvořit výslovné právní pravomoci pro zásah dříve, než dobrovolná spolupráce a existující kybernetické nástroje projdou zkouškou v reálné krizi?

Ve skutečnosti nejde jen o jedno tlačítko

Debata se netýká pouze toho, zda má vláda mít tlačítko, které může stisknout. Jde o pořadí a rozsah kontroly:

1. Prevence: dohled nad výpočetní kapacitou, čipy, tréninkem, testováním a nasazením před uvolněním systému.
2. Zásah: jednoznačná pravomoc izolovat či zastavit systémy, které vytvářejí akutní bezpečnostní riziko.
3. Mezinárodní koordinace: dohody omezující obcházení pravidel mezi státy a posilující účinnost domácích opatření.

Vláda odmítla samostatný národní „vypínač“, protože jej považuje za nedostatečný proti globální hrozbě. Kritici toto omezení uznávají, vyvozují z něj ale opačný závěr: Británie by měla domácí zákonné pravomoci spojit s mezinárodní spoluprací, nikoli jedno vydávat za náhradu druhého. 1316