Dlaczego Wielka Brytania odrzuciła „wyłącznik awaryjny” dla niebezpiecznej AI

Brytyjski rząd nie twierdzi, że zaawansowane modele AI nie niosą ryzyka. Odrzucając pomysł awaryjnego „wyłącznika”, wskazał jednak na jego zasadniczą słabość: Wielka Brytania mogłaby odciąć dostęp do modelu lub zatrzymać centrum danych na własnym terytorium, ale nie zdołałaby przez to uniemożliwić tworzenia, hostowania lub wykorzystywania podobnych systemów w innych państwach. 1

To właśnie podzieliło debatę. Ministrowie utrzymują, że już dziś mają instrumenty do interwencji przy poważnych incydentach cybernetycznych, a jeśli dobrowolne zabezpieczenia zawiodą, można wprowadzić wiążące regulacje. Zwolennicy nowych przepisów odpowiadają, że na sytuację katastrofalnego ryzyka trzeba przygotować jednoznaczne i egzekwowalne uprawnienia zanim dojdzie do kryzysu. 1617

Co miał umożliwić „wyłącznik awaryjny”

Lord Tim Clement-Jones zaproponował poprawkę do ustawy Cyber Security and Resilience Bill. Przewidywała ona prawny mechanizm interwencji w ostateczności: państwo mogłoby dezaktywować model AI albo nakazać wstrzymanie działalności brytyjskiego centrum danych, gdy system stworzyłby poważne zagrożenie dla bezpieczeństwa lub działania kluczowych usług. 26

Spór nie dotyczy wyłącznie technicznego odłączenia serwerów. Obecne regulacje cyberbezpieczeństwa koncentrują się przede wszystkim na bezpieczeństwie sieci i systemów informacyjnych. Krytycy podkreślają, że nie tworzą one wyraźnego, odrębnego systemu nadzoru nad twórcami najbardziej zaawansowanych modeli ani reagowania na ryzyko stwarzane przez autonomiczny model jako taki. 15

Argument rządu: nie da się po prostu „wyłączyć AI”

Stanowisko Cabinet Office — brytyjskiego urzędu koordynującego m.in. politykę bezpieczeństwa AI — opiera się przede wszystkim na kwestii jurysdykcji. Jak ujęli to przedstawiciele rządu, Wielka Brytania „nie może po prostu wyłączyć AI”: zablokowanie dostępu na jej terytorium nie zapobiegnie rozwojowi ani nadużyciom gdzie indziej. 1

Krajowy nakaz zatrzymania mógłby zakłócić działanie infrastruktury podlegającej brytyjskiemu prawu. Nie usunąłby jednak wag modelu, nie zatrzymałby usług działających poza granicami państwa ani nie uniemożliwiłby zagranicznym podmiotom budowy porównywalnych systemów. Mógłby więc pomóc w lokalnym opanowaniu incydentu, ale nie byłby pełną odpowiedzią na zagrożenie ponad granicami.

Podobnie oceniał to były badacz OpenAI Daniel Kokotajlo. Według relacji dotyczących propozycji jednostronne zatrzymanie systemu byłoby niewystarczające bez międzynarodowego porozumienia. Uznał takie narzędzia za lepsze niż ich brak, lecz większe znaczenie przypisał dyplomacji — zwłaszcza współpracy ze Stanami Zjednoczonymi — w spowalnianiu lub regulowaniu rozwoju modeli granicznych. 14

Dlaczego ministrowie wskazują na obecne przepisy cyberbezpieczeństwa

Rząd przekonuje, że nie zamierza jedynie czekać na dobrowolne działania firm. Ministrowie wskazali, iż Cyber Security and Resilience Bill daje podstawę do interwencji, gdy naruszone systemy sieciowe lub informacyjne stwarzają ryzyko dla bezpieczeństwa narodowego. W takim przypadku możliwe miałoby być m.in. zobowiązanie organizacji do zaprzestania używania i odizolowania modelu AI. 16

Minister ds. AI Kanishka Narayan zaznaczył także, że rząd rozważy wiążące reguły dla zaawansowanych modeli, jeśli dobrowolne zabezpieczenia przed wdrożeniem przestaną skutecznie chronić społeczeństwo. Brytyjski AI Security Institute otrzymuje obecnie — na podstawie dobrowolnych porozumień — dostęp do modeli przed ich wdrożeniem od firm takich jak OpenAI, Anthropic i Google. 17

Sedno sporu wygląda więc tak:

• Rząd: ukierunkowane uprawnienia cyberbezpieczeństwa, odpowiedzialność deweloperów, dobrowolny dostęp do modeli i współpraca międzynarodowa są praktyczniejsze niż brytyjski „przycisk off”.
• Krytycy: dobrowolny dostęp i ogólne przepisy cyberbezpieczeństwa nie zastępują ustawowego prawa do nakazania testów, ograniczenia wdrożenia lub zatrzymania systemu, gdy ryzyko staje się nieakceptowalne.

Co przewiduje projekt ustawy Alexa Sobela

Osobna inicjatywa laburzystowskiego posła Alexa Sobela idzie dalej niż doraźne uprawnienia do wyłączenia systemu. Według relacji jego AI Security Bill zakazywałby tworzenia, wdrażania i używania sztucznej superinteligencji, zwłaszcza systemów, których ludzie nie są w stanie kontrolować. 23

To podejście prewencyjne. Zamiast polegać wyłącznie na awaryjnym zatrzymaniu już działającego systemu, ustawa dawałaby państwu rolę w monitorowaniu i kontrolowaniu procesu rozwoju AI w całym łańcuchu dostaw — także na poziomie chipów. 7

Projekt uwzględnia również wymiar międzynarodowy: rząd miałby zabiegać o porozumienie ograniczające rozwój niekontrolowanej superinteligencji. To przyznanie, że zasoby obliczeniowe, prace nad modelami i ich wdrażanie są rozproszone między różnymi państwami. 3

Dlaczego szanse projektu są ograniczone

Projekt Sobela jest ustawą poselską (private member’s bill). Takie projekty zwykle potrzebują poparcia rządu, aby przejść dalszą drogę legislacyjną. Sprzeciw rządu wobec pokrewnej propozycji „wyłącznika” sugeruje ograniczoną gotowość do tak daleko idącej interwencji w najbliższym czasie. 21

Wielka Brytania nadal opiera się głównie na obowiązującym prawie, regulatorach sektorowych i dobrowolnych porozumieniach z twórcami modeli granicznych, a nie na jednej ustawie AI z szerokimi, egzekwowalnymi uprawnieniami przed wdrożeniem. Narayan nie wyklucza ostrzejszej regulacji, ale wiąże ją z ewentualnym niepowodzeniem obecnego modelu dobrowolnych zabezpieczeń. 17

W praktyce pozostaje pytanie, ile dowodów na nieskuteczność obecnego podejścia powinno być potrzebnych, zanim państwo otrzyma twarde narzędzia. Zwolennicy ustawowych zabezpieczeń argumentują, że czekanie na jednoznaczną porażkę może być szczególnie ryzykowne w przypadku szybko rozwijającego się zagrożenia o potencjalnie dużej skali.

Spór szerszy niż jeden przycisk

Debata o „wyłączniku” nasiliła się w kontekście doniesień o incydentach bezpieczeństwa AI, obchodzeniu zabezpieczeń przez modele i możliwości wykorzystania ich w cyberatakach. Dla części parlamentarzystów i ekspertów ds. bezpieczeństwa problem utraty kontroli przestał przez to być wyłącznie teoretyczny. 12

Widoczny jest też kontrast regulacyjny: Unia Europejska przyjęła AI Act, podczas gdy Wielka Brytania stawia na lżejszy model sektorowy, uzupełniany dobrowolnym testowaniem zaawansowanych systemów przed wdrożeniem. 17

Żaden z tych modeli samodzielnie nie rozwiązuje problemu międzynarodowej koordynacji. Bardzo zaawansowany system może być trenowany, hostowany, kopiowany i wdrażany w różnych państwach. Spór o brytyjski „wyłącznik” odsłania jednak pilniejszą kwestię: czy wyraźne uprawnienia prawne do interwencji powinny istnieć przed sprawdzianem w realnym kryzysie dla dobrowolnej współpracy i obecnych przepisów cyberbezpieczeństwa.

Trzy warstwy kontroli

W istocie nie chodzi tylko o to, czy rząd powinien mieć guzik do naciśnięcia. Stawką jest kolejność i zakres kontroli:

1. Zapobieganie: nadzór nad mocą obliczeniową, chipami, treningiem, testami i wdrażaniem jeszcze przed udostępnieniem systemu.
2. Interwencja: jasne uprawnienia do odizolowania lub zatrzymania systemu stwarzającego bezpośrednie zagrożenie bezpieczeństwa.
3. Współpraca międzynarodowa: porozumienia ograniczające arbitraż regulacyjny i zwiększające skuteczność krajowych zabezpieczeń.

Rząd odrzucił samodzielny krajowy „wyłącznik”, ponieważ uważa go za niewystarczający wobec globalnego zagrożenia. Krytycy przyjmują to ograniczenie, ale wyciągają odwrotny wniosek: Wielka Brytania powinna łączyć ustawowe uprawnienia krajowe ze współpracą międzynarodową, a nie traktować jednego rozwiązania jako zamiennika drugiego. 1316