Andrew Ng: bezpieczeństwo AI powinno dotyczyć realnych zagrożeń, nie apokaliptycznych scenariuszy

Andrew Ng nie twierdzi, że sztuczna inteligencja jest pozbawiona ryzyka. Jego główna teza jest inna: przewidywania o rychłym wyginięciu ludzkości są zbyt spekulatywne, by to one wyznaczały politykę wobec AI. W wywiadzie dla Bloomberg TV z 17 września współzałożyciel Google Brain nazwał je „znacznie bardziej science fiction niż nauką”. Przekonywał, że bezpieczeństwo AI powinno być traktowane jak zadanie inżynierskie — systemy należy testować, wyposażać w zabezpieczenia i ulepszać w miarę wykrywania problemów. 2

Co Ng powiedział o ryzyku wyginięcia

Według Ng systemy AI nigdy nie będą całkowicie przewidywalne. Sama niedoskonała przewidywalność nie jest jednak, w jego ocenie, argumentem za zatrzymaniem rozwoju tej technologii. Testy, zabezpieczenia i praca inżynierska mogą stopniowo zwiększać bezpieczeństwo systemów. Ostrzegł też, że szerokie spowolnienie rozwoju AI mogłoby paradoksalnie spowolnić również postęp w dziedzinie bezpieczeństwa. 2

To stanowisko stoi w kontrze do argumentu, że coraz zdolniejsze modele mogą w niedalekiej przyszłości wymknąć się spod ludzkiej kontroli. Ng uważa, że punkt wyjścia dla sensownej agendy bezpieczeństwa powinny stanowić obserwowalne awarie i szkody, a nie hipotetyczne scenariusze zagłady.

Dlaczego podważa narrację katastroficzną

Ng stwierdził, że ostrzeżenia przed egzystencjalnym ryzykiem AI mogą utrudniać pełne wykorzystanie korzyści płynących z tej technologii. Powiedział także, że branża technologiczna już wcześniej, na początku obecnej fali boomu na AI, podsycała lęki przed katastrofalnymi skutkami — najwyraźniej po to, by zyskać rozgłos i wpływać na regulacje. 1

To argument nie tylko o ryzyku, lecz także o bodźcach: dramatyczne deklaracje przyciągają uwagę, a kształt regulacji decyduje o tym, kto ponosi koszty ich spełnienia. Ng nie postuluje porzucenia pracy nad bezpieczeństwem. Sprzeciwia się uznawaniu tez o wyginięciu za ustalony fakt naukowy albo za podstawę do wprowadzenia szerokiej pauzy w rozwoju AI.

Na czym, zdaniem Ng, powinno skupić się bezpieczeństwo AI

Alternatywą Ng jest praktyczne ograniczanie ryzyka. Relacje z wywiadu wskazują cyberbezpieczeństwo i inne konkretne zabezpieczenia jako priorytety. 5

W praktyce jego podejście oznacza:

• rygorystyczne testowanie przed wdrożeniem i w trakcie działania systemów;
• zabezpieczenia i mechanizmy ochronne, które ograniczają znane tryby błędów;
• iteracyjne doskonalenie inżynierskie, gdy pojawiają się nowe problemy;
• koncentrację na przewidywalnych szkodach, w tym ryzykach cybernetycznych, zamiast skupiania całej polityki na scenariuszach wyginięcia. 25

To podejście nie obiecuje pełnej kontroli nad AI. Zakłada natomiast, że użyteczną technologię można uczynić wystarczająco niezawodną dzięki stałemu cyklowi oceny, wykrywania usterek i ulepszania — podobnie jak w innych dziedzinach inżynierii.

Czym różni się od zwolenników spowolnienia

Kilka czołowych postaci świata AI również uważa, że bezpieczeństwu trzeba poświęcić więcej uwagi, lecz wyciąga z tego znacznie dalej idący wniosek dotyczący tempa rozwoju modeli granicznych — czyli najwydajniejszych i najbardziej zaawansowanych systemów.

Jacob Coxon: znacznie wyższa ocena zagrożenia

Były badacz Anthropic i OpenAI Jacob Coxon odszedł z Anthropic, ostrzegając, że szybki rozwój systemów zdolnych do samodoskonalenia może mieć katastrofalne skutki. Uznał spowolnienie za konieczne, a później z zadowoleniem przyjął propozycję Anthropic dotyczącą ostrożniejszego tempa rozwoju. 3343

Dario Amodei: wolniejszy wzrost możliwości, więcej czasu na zabezpieczenia

Prezes Anthropic Dario Amodei wezwał firmy AI do spowolnienia tempa zwiększania możliwości modeli. Jego celem jest zyskanie czasu na zarządzanie ryzykiem, między innymi w ramach systemu obejmującego niezależnych ewaluatorów. 18

Sam Altman: poparcie dla ostrożniejszego tempa na granicy możliwości

Prezes OpenAI Sam Altman poparł podstawowe założenie propozycji Amodeia i zobowiązał OpenAI do wdrożenia jednego z jej zabezpieczeń: zapewnienia zewnętrznym ewaluatorom realnego dostępu umożliwiającego ocenę praktyk bezpieczeństwa. 1924

Geoffrey Hinton: obawa przed utratą kontroli

Geoffrey Hinton mówił o „istotnym ryzyku”, że AI może wymknąć się ludzkiej kontroli. Poparł spowolnienie oraz środki takie jak testy przed udostępnieniem nowych chatbotów, argumentując, że rządy reagują zbyt wolno. 20

Praktyczny spór dotyczy więc zarówno oceny prawdopodobieństwa, jak i polityki. Coxon, Amodei, Altman i Hinton uznają ryzyko utraty kontroli za wystarczająco wiarygodne, by celowo ograniczać tempo rozwoju najbardziej zaawansowanych systemów. Ng uważa natomiast, że tezy o wyginięciu nie mają dostatecznego oparcia i że wysiłki na rzecz bezpieczeństwa powinny koncentrować się na konkretnych, możliwych do rozwiązania awariach. 21820

Gdzie Ng się zgadza, a gdzie nie, z przeciwnikami spowolnienia

Sprzeciw Ng wobec szerokiego spowolnienia nie oznacza, że podziela wszystkie argumenty polityków i menedżerów, którzy także odrzucają taki pomysł.

• Jensen Huang: prezes Nvidii powiedział, że branża nie potrzebuje nowych ustaw ani regulacji. 53
• Mark Zuckerberg: prezes Mety uznał, że ogólnobranżowe spowolnienie nie jest potrzebne, ponieważ konkurencja i bodźce rynkowe skłonią firmy do zapewniania bezpieczeństwa modeli. 55
• Prezydent Donald Trump: Trump nazwał obawy przed niekontrolowaną AI „mistyfikacją” i stwierdził, że Stany Zjednoczone już dysponują narzędziami do regulowania działalności firm AI oraz ich ścigania. 4950
• Chińscy urzędnicy: rzecznik chińskiego Ministerstwa Spraw Zagranicznych sprzeciwił się wezwaniom do spowolnienia rozwoju AI na granicy możliwości. 52

Wszystkie te stanowiska prowadzą do podobnego wniosku w sprawie szerokiej pauzy, ale ich uzasadnienia są odmienne. Argument Ng ma przede wszystkim charakter techniczny: należy koncentrować się na mierzalnych szkodach i budować lepsze mechanizmy kontroli. Huang, Zuckerberg, Trump i chińscy urzędnicy kładli w różnym stopniu nacisk na sprzeciw wobec nowych ograniczeń, mechanizmy rynkowe albo konkurencję i strategię państwa. 250525355

Węższy obszar zgodności: ryzyko cybernetyczne

Debata nie dzieli się prosto na tych, którym zależy na bezpieczeństwie, i tych, którym na nim nie zależy. Prezes Cohere Aidan Gomez powiedział na przykład, że modele AI stały się bardzo skuteczną bronią cybernetyczną, ponieważ potrafią na dużą skalę wyszukiwać i wykorzystywać podatności. 62 Ta obawa jest bliższa postulatowi Ng, by zajmować się konkretnymi zagrożeniami dla cyberbezpieczeństwa, choć dostępne materiały nie pozwalają określić pełnego stanowiska Gomeza wobec ogólnobranżowego spowolnienia ani międzynarodowych zasad zarządzania AI.

Podobnie dostępne źródła nie dają wystarczających podstaw, by rzetelnie scharakteryzować poglądy inwestora Steve’a Eismana na spowolnienie rozwoju, badania nad bezpieczeństwem, regulacje i międzynarodowe zarządzanie AI.

Najważniejszy wniosek

Wypowiedź Ng przesuwa punkt ciężkości w sporze o bezpieczeństwo AI. Pytanie nie brzmi, czy AI należy uczynić bezpieczniejszą, lecz czy spekulacyjne scenariusze wyginięcia powinny kierować całą agendą. Jego odpowiedź brzmi: nie. Priorytetem powinny być testy, zabezpieczenia i inżynierskie ograniczanie obecnych, rozpoznawalnych szkód — bez powszechnego spowolnienia, które, jak twierdzi, mogłoby zahamować zarówno innowacje, jak i postęp w bezpieczeństwie. 12