Ponad 10% ryzyka zagłady? Co słowa Evana Hubingera mówią o sporze wokół bezpieczeństwa AI

Wypowiedź Evana Hubingera nie dowodzi, że sztuczna inteligencja doprowadzi do zagłady ludzkości. Mówi coś węższego, ale bardzo istotnego: osoba kierująca w Anthropic pracami nad alignmentem — czyli dostosowaniem zachowania AI do ludzkich celów i ograniczeń — osobiście ocenia takie ryzyko w perspektywie dekady na ponad 10%. Jednocześnie przyznała, że Anthropic nie ma jeszcze planu rozwiązania problemu alignmentu superinteligencji ani wyraźnej ścieżki do jego rozwiązania. 12

To nadało konkretny ciężar obawom Jacoba Coxona, byłego badacza Anthropic i OpenAI, który odszedł z firmy, argumentując, że laboratoria rozwijające modele graniczne zwiększają ich możliwości szybciej, niż potrafią udowodnić, że utrzymają je pod kontrolą. 23

To osobista prognoza, nie stanowisko Anthropic

Liczba „ponad 10%” była oceną Hubingera. Nie przedstawiono jej jako oficjalnego szacunku Anthropic, wspólnego stanowiska pracowników ani ustalonej prognozy naukowej. 12

To kluczowe rozróżnienie. Sama liczba nie wyjaśnia mechanizmu katastrofy, nie przesądza terminu ani nie dowodzi, że taki scenariusz jest prawdopodobny. Hubinger miał też wskazywać, że ryzyko związane z modelami dostępnymi obecnie jest niskie. Jego obawy dotyczą przyszłych systemów o znacznie większych możliwościach, w tym potencjalnej rekurencyjnej samopoprawy — sytuacji, w której AI wykorzystuje swoje zdolności do tworzenia coraz bardziej zaawansowanej AI. 210

Waga tej wypowiedzi wynika więc nie tylko z mocno brzmiącego procentu. Chodzi przede wszystkim o ujawnioną lukę między szybkim wzrostem możliwości modeli a pewnością, że systemy superinteligentne da się niezawodnie podporządkować ludzkiej kontroli. 12

Dlaczego wzmocniło to ostrzeżenie Coxona

Coxon twierdził po rezygnacji, że ani Anthropic, ani OpenAI nie działają odpowiedzialnie i że obie firmy ścigają się w kierunku samodoskonalącej się superinteligencji. Hubinger publicznie zgodził się z jego tezą, że ludzie budujący te systemy naprawdę biorą pod uwagę możliwość skutków na poziomie zagłady. 23

Nie oznacza to, że wszyscy pracownicy firm mają identyczne poglądy. Nie zamienia też relacji Coxona w niezależnie zweryfikowaną ocenę obu firm. Utrudnia jednak zbycie jego odejścia jako odosobnionej skargi byłego pracownika: obecny lider badań nad alignmentem potwierdził, że poważne obawy wewnątrz branży mogą współistnieć z dalszym rozwojem modeli granicznych. 12

Podobnej ostrożności wymaga interpretacja wypowiedzi Samuela Marksa. Według relacji mówił on, że twórcy AI uważają, iż ich technologia może doprowadzić do wymarcia ludzi lub innych równie poważnych skutków. Jest to jednak perspektywa osoby z branży, a nie opublikowany, firmowy szacunek ryzyka. 5

Sednem sporu jest zarządzanie ryzykiem przy ogromnej niepewności

Tę historię łatwo sprowadzić do hasła „pesymiści kontra optymiści AI”. Praktyczniejsze pytanie brzmi jednak inaczej: jakie zabezpieczenia powinny być obowiązkowe, gdy potencjalne szkody są globalne i nieodwracalne, lecz ich prawdopodobieństwo oraz horyzont czasowy pozostają głęboko niepewne?

Słowa Hubingera wyostrzają kilka problemów:

• Alignment nie jest rozwiązany. Deklaracja, że laboratorium intensywnie nad nim pracuje, nie jest dowodem na posiadanie sprawdzonej metody kontroli systemów istotnie potężniejszych od dzisiejszych. 1
• Konkurencja utrudnia dobrowolne hamowanie. Coxon krytykował presję wyścigu, która pcha firmy ku większym możliwościom mimo nierozstrzygniętych pytań o bezpieczeństwo. 23
• Bezpieczeństwo obecnych modeli nie wyczerpuje problemu. Hubinger odróżniał niskie, w jego ocenie, ryzyko ze strony dzisiejszych modeli od zagrożeń związanych z przyszłymi, dużo bardziej zdolnymi systemami. 210
• Niezależna weryfikacja ma znaczenie. Opinii publicznej, klientom i rządom trudno ocenić wewnętrzne procedury bezpieczeństwa firm bez zewnętrznych testów oraz przejrzystego raportowania.

Nie jest to dowód na rychłą katastrofę. Są to jednak problemy regulacyjne, które mogą stać się znacznie trudniejsze do rozwiązania, jeśli niebezpieczne zdolności pojawią się wcześniej niż skuteczne mechanizmy nadzoru.

Pytania o przejrzystość firm

W doniesieniach pojawiła się informacja, że Anthropic nie przekazał najnowszego modelu do testów brytyjskiemu AI Safety Institute przed jego premierą. Należy zachować ostrożność: dostępne relacje opisują tę sprawę jako doniesienie medialne, a nie publicznie potwierdzone ustalenie firmy lub brytyjskiego rządu. 10

Sama sprawa pokazuje jednak, dlaczego dobrowolne zobowiązania dotyczące bezpieczeństwa budzą sceptycyzm. Jeśli liderzy odpowiedzialni za bezpieczeństwo w firmie przyznają, że alignment pozostaje nierozwiązany, zewnętrzni obserwatorzy mogą zasadnie pytać: jakie testy przeprowadzono, kto je ocenił, które wyniki udostępniono i jakie progi możliwości uruchamiają ostrzejsze zabezpieczenia?

Co w praktyce znaczyłoby „zwolnić”

Wezwanie do spowolnienia nie musi oznaczać trwałego zatrzymania wszystkich badań i wdrożeń AI. Argument regulacyjny dotyczy raczej egzekwowalnych kontroli, zanim systemy przekroczą szczególnie istotne progi możliwości.

Możliwe środki obejmują:

• niezależne oceny możliwości i bezpieczeństwa przed wdrożeniem;
• obowiązek zgłaszania poważnych incydentów i istotnie niebezpiecznych zdolności;
• jasne progi, po których twórcy muszą wprowadzać silniejsze zabezpieczenia techniczne i zasady nadzoru;
• audyty, które nie opierają się wyłącznie na wewnętrznych zapewnieniach producenta;
• międzynarodową koordynację, aby żadna firma ani państwo nie były zachęcane do obchodzenia zasad tylko po to, by dotrzymać kroku rywalom.

Logika jest prosta: jeśli prawdopodobieństwo ryzyka jest niepewne, ale możliwe skutki byłyby skrajne, zabezpieczenia powinny być wykazywalne przed, a nie po utracie kontroli.

Co naprawdę ujawniła ta wypowiedź

Wpis Hubingera obnażył napięcie leżące u podstaw rozwoju zaawansowanej AI: czołowi twórcy mogą publicznie dostrzegać poważne długoterminowe ryzyka, a równocześnie dalej budować systemy, które czynią te ryzyka pilniejszymi. 12

Nie rozstrzyga to prawdopodobieństwa katastrofalnych szkód spowodowanych przez AI i nie powinno być przedstawiane jako oficjalna prognoza Anthropic. Czyni jednak debatę o alignmencie bardziej konkretną. Pytanie nie brzmi już wyłącznie, czy bardzo zaawansowana AI może stać się groźna. Brzmi: czy firmy i rządy potrafią wykazać — niezależnymi dowodami, egzekwowalnymi regułami i współpracą międzynarodową — że są przygotowane, zanim systemy staną się zbyt potężne, by bezpiecznie nimi zarządzać. 110