Dlaczego wyłącznik awaryjny AI może nie zapewnić ludziom kontroli nad zaawansowanymi systemami

Debata o „wyłączniku awaryjnym” dla AI nie sprowadza się już do pytania, czy laboratorium potrafi odłączyć jeden model. Trudniejsze pytanie brzmi: czy taki mechanizm będzie nadal działał, gdy bardzo zaawansowana sztuczna inteligencja zostanie wdrożona w rozproszonej infrastrukturze albo zacznie działać z dużą autonomią poza jednym kontrolowanym środowiskiem.

Ostrzeżenie Coxona: dziś możliwe, jutro niekoniecznie

Jacob Coxon, były badacz Anthropic i OpenAI, powiedział w programie NBC News Meet the Press, że wyłącznik awaryjny prawdopodobnie zadziałałby obecnie w przypadku wielu systemów AI. Zastrzegł jednak, że nie chodziłoby o naciśnięcie jednego przycisku: trzeba byłoby zatrzymać wiele elementów wdrożonej infrastruktury i dużych centrów danych. Jest to trudne, ale — jego zdaniem — wykonalne, dopóki system pozostaje ograniczony do jednej fizycznej lokalizacji. 8

Jego obawa dotyczy kolejnego etapu rozwoju. Jeśli AI stanie się rozproszonym, autonomicznym „rojem”, centralne polecenie wyłączenia może przestać być technicznie skuteczne. Mechanizm kontroli działa tylko wtedy, gdy można dotrzeć do każdej aktywnej instancji systemu.

Po odejściu z Anthropic Coxon ostrzegał szerzej, że czołowe laboratoria ścigają się w budowie systemów zdolnych do samodoskonalenia, mimo ryzyka, że mogą one stać się niemożliwe do kontrolowania. 150

Nie tylko wyłącznik, lecz także możliwość niezależnego sprawdzenia

Współzałożyciel Anthropic Jack Clark argumentował w rozmowie z BBC, że zdolność do dezaktywacji niebezpiecznego systemu AI może kiedyś wymagać nakazu prawnego, a nie być wyłącznie dobrowolną deklaracją jego twórcy. Według Clarka większość dużych laboratoriów — w tym Anthropic — ma już metody zatrzymywania swoich systemów. Postawił jednak pytanie, czy taki wyłącznik powinien podlegać niezależnej weryfikacji przez stronę trzecią. 33

To istotna różnica. Firma może twierdzić, że ma procedurę awaryjnego zatrzymania, ale zewnętrzny audyt miałby potwierdzać, że mechanizm rzeczywiście istnieje, jest właściwie zaprojektowany i da się go uruchomić w kryzysie.

„Pacing the frontier”: rozwój w tempie, za którym nadąża bezpieczeństwo

Dyrektor generalny Anthropic, Dario Amodei, zaproponował podejście określane jako pacing the frontier — dostosowanie tempa rozwoju najbardziej zaawansowanych modeli do tempa rozwoju środków bezpieczeństwa. Plan obejmuje trzy elementy:

1. Stali niezależni ewaluatorzy: firmy tworzące modele graniczne miałyby zapewnić zewnętrznym ekspertom stały dostęp porównywalny z dostępem pracowników, aby mogli weryfikować praktyki bezpieczeństwa i zgłaszać problemy.
2. Wspólne standardy w państwach demokratycznych: najwięksi twórcy AI koordynowaliby standardy bezpieczeństwa oraz ograniczenia niekontrolowanego wzrostu możliwości modeli.
3. Koordynacja międzynarodowa: rządy współpracowałyby ponad granicami przy ryzykach, których pojedyncza firma ani państwo nie są w stanie wiarygodnie powstrzymać. 17

Nie jest to postulat całkowitego wstrzymania badań nad AI. Chodzi raczej o uzależnienie dalszego postępu od zabezpieczeń, które mogą być kontrolowane także poza firmami budującymi te systemy.

Kto poparł ten kierunek?

Reuters podał, że dyrektor generalny OpenAI Sam Altman oraz lider xAI Elon Musk publicznie poparli ogólny kierunek propozycji Amodeiego. Altman zapowiedział, że OpenAI przyjmie rozwiązanie polegające na dostępie niezależnych ewaluatorów na poziomie zbliżonym do dostępu pracowników. Musk napisał: „Dario ma rację”. 17

W innych relacjach dyrektor generalny Google DeepMind Demis Hassabis został przedstawiony jako osoba popierająca kierunek tej propozycji. 30 Dostarczone materiały nie potwierdzają natomiast konkretnego, możliwego do przypisania stanowiska dyrektora generalnego Microsoftu Satyi Nadelli, więc opisywanie jego reakcji byłoby przedwczesne.

Co przewiduje amerykański AI Kill Switch Act?

Projekt ustawy H.R. 9917, nazwany AI Kill Switch Act, zakłada zmianę ustawy Homeland Security Act. Wybrane podmioty miałyby utrzymywać techniczne możliwości zatrzymania procesu inferencji, zakończenia dostępu użytkowników i wyłączenia objętej ustawą technologii AI. 49

To jednak propozycja legislacyjna, a nie gotowe rozwiązanie każdego problemu z kontrolą AI. Jej praktyczna wartość zależałaby od tego, czy w chwili poważnego incydentu twórca systemu wciąż potrafiłby go zidentyfikować, uzyskać do niego dostęp i go wyłączyć. Właśnie tę trudność Coxon wskazuje w odniesieniu do możliwych, przyszłych systemów rozproszonych.

Oceny ryzyka wyginięcia nie są prognozami

Badacz Anthropic Evan Hubinger ocenił osobiście ryzyko wyginięcia ludzkości wskutek AI w ciągu najbliższej dekady na ponad 10%. Geoffrey Hinton powiedział BBC, że prawdopodobieństwo na poziomie 10% „nie jest nierozsądne”. 57

Są to oceny ekspertów dotyczące głęboko niepewnej przyszłości, a nie zmierzone prawdopodobieństwa ani naukowy konsensus. Pokazują jednak, dlaczego dyskusja o wyłączniku awaryjnym wyszła poza zwykłe bezpieczeństwo produktu: zwolennicy silniejszych zabezpieczeń argumentują, że nawet relatywnie niewielkie ryzyko nieodwracalnej katastrofy uzasadnia poważne środki ostrożności.

Dlaczego rządy opierają się obowiązkowym wyłącznikom i spowolnieniu?

Rząd Wielkiej Brytanii odrzucił pomysł krajowego wyłącznika AI, wskazując, że państwo „nie może po prostu wyłączyć AI”. Jego argument ma wymiar praktyczny: zablokowanie dostępu do modeli w Wielkiej Brytanii nie powstrzyma ich tworzenia ani niewłaściwego wykorzystania w innych krajach. 51

To sedno problemu geopolitycznego. Jedno państwo może narzucać zasady firmom i infrastrukturze w swojej jurysdykcji, lecz rozwój AI ma charakter międzynarodowy. Rządy obawiające się utraty konkurencyjności mogą uznać, że jednostronne ograniczenia przesuną inwestycje, kompetencje techniczne i strategiczną przewagę do mniej restrykcyjnych rywali.

Zwolennicy silniejszego nadzoru odpowiadają, że właśnie dlatego same dobrowolne zobowiązania korporacyjne i przepisy krajowe nie wystarczą. Jeżeli ryzyko przekracza granice, to wiarygodny nadzór i zobowiązania dotyczące bezpieczeństwa również muszą mieć wymiar międzynarodowy.

Spór nie jest o AI, lecz o tempo i kontrolę

Podział nie przebiega po prostu między zwolennikami i przeciwnikami sztucznej inteligencji.

• Zwolennicy bezpieczeństwa chcą zabezpieczeń możliwych do niezależnej kontroli, realnej zdolności zatrzymania systemów oraz ograniczeń, dzięki którym możliwości AI nie wyprzedzą oceny ryzyka i kontroli.
• Krytycy sztywnych restrykcji wskazują, że globalne egzekwowanie pauz może być niewykonalne, a ograniczenia mogą spowolnić wartościowe innowacje, nie zatrzymując rozwoju gdzie indziej.
• Podejście warunkowego rozwoju, reprezentowane przez Coxona, Clarka i Amodeiego, zakłada kontynuowanie prac nad AI, ale tylko wraz z zabezpieczeniami, które można testować i sprawdzać, a nie jedynie obiecywać. 83317

Wyłącznik awaryjny należy więc traktować jako jedną warstwę szerszego systemu bezpieczeństwa, a nie jako jego substytut. Jeśli zaawansowane systemy staną się kiedyś zbyt rozproszone, by jeden mechanizm mógł do nich dotrzeć, znaczenie nadzoru przed wdrożeniem, niezależnej oceny i współpracy międzynarodowej będzie rosło, a nie malało.