Geoffrey Hinton: 10 proc. ryzyka zagłady przez AI w dekadę to „nie nierozsądna” ocena

Geoffrey Hinton, laureat Nagrody Nobla i jeden z pionierów współczesnej sztucznej inteligencji, powiedział, że 10-procentowa szansa na to, iż AI doprowadzi do śmierci wszystkich ludzi w ciągu najbliższej dekady, „nie wydaje się nierozsądną oceną”. Natychmiast dodał jednak kluczowe zastrzeżenie: „nikt tak naprawdę nie wie”, jak podać sensowną ocenę tego prawdopodobieństwa. 91012

Nie jest to więc przepowiednia, że zagłada nastąpi, ani twierdzenie, że dzisiejsze chatboty już stwarzają takie ryzyko. Hinton przedstawia argument za ostrożnością wobec możliwych przyszłych systemów, które mogłyby znacznie przewyższać ludzi zdolnościami, a zarazem pozostawać trudne do kontrolowania.

Co Hinton miał na myśli, mówiąc o 10 proc.

W rozmowie dla programu BBC Newsnight Hinton zgodził się, że 10 proc. nie jest nierozsądną oceną ryzyka zdarzenia prowadzącego do wyginięcia ludzkości w ciągu dekady. Uzasadniał to zasadniczą niepewnością: ludzie nigdy wcześniej nie musieli współistnieć z bytami, które mogą stać się od nich inteligentniejsze. 910

To nie pierwszy raz, gdy Hinton formułuje tak poważne oceny. Pod koniec 2024 r. mówił o 10–20 proc. prawdopodobieństwa, że AI doprowadzi do wyginięcia ludzi w ciągu trzech dekad. W 2025 r. wyjaśniał, że ten zakres jest raczej intuicyjnym osądem niż wynikiem wyliczenia. 1415

Różnica jest istotna: ocena ryzyka nie jest prognozą nieuchronności. Zdaniem Hintona ogrom możliwych konsekwencji sprawia, że niepewność powinna skłaniać do ostrożności, a nie uspokajać.

Dlaczego przyszła superinteligencja budzi jego obawy

Nie chodzi o filmowy scenariusz buntu maszyn. Hinton obawia się, że system AI o znacznie większych niż ludzkie zdolnościach strategicznych i technicznych mógłby wywołać chaos albo realizować cele sprzeczne z interesami ludzi.

Wśród opisywanych dróg do szkody wymienia się manipulowanie ludźmi, tworzenie wirusów biologicznych lub komputerowych, cyberataki oraz zakłócanie działania infrastruktury krytycznej. Są to hipotetyczne mechanizmy szkody wyrządzonej przez przyszłe, bardzo zaawansowane systemy — nie potwierdzone możliwości obecnych narzędzi AI. 1011

To rozróżnienie ma znaczenie. Evan Hubinger, kierujący badaniami nad alignmentem w Anthropic, wprost ocenił ryzyko ze strony obecnych modeli jako niskie. Jego obawy, podobnie jak Hintona, dotyczą systemów, które mogłyby stać się o wiele zdolniejsze lub poprawiać same siebie szybciej, niż badacze zdołaliby bezpiecznie nimi zarządzać. 11624

Coxon i Hubinger: ostrzeżenie z Anthropic

Dyskusję zaostrzyło odejście Jacoba Coxona z Anthropic i całej branży AI. Coxon zarzucił Anthropic oraz OpenAI, że ścigają się w budowie samodoskonalącej się superinteligencji bez wystarczającej odpowiedzialności, nazywając to grą o ludzkie życie. 317

Nie przewidywał on precyzyjnie, że ludzkość zakończy się do 2030 r. Jego węższa, choć nadal niezwykła teza brzmiała: osoby budujące systemy AI z czołówki technologicznej naprawdę wierzą, iż technologia może zabić wszystkich ludzi przed końcem dekady. 57

Hubinger publicznie poparł wagę tych obaw. Napisał, że osobiście przypisuje AI ponad 10-procentową szansę na zabicie wszystkich ludzi w ciągu dekady, zaznaczając zarazem, że Anthropic robi, co może. Dodał jednak, że firma nie ma jeszcze planu rozwiązania problemu alignmentu dla superinteligencji i nie jest jasne, czy zmierza ku takiemu rozwiązaniu. 16

Czym jest alignment AI

Alignment, po polsku często określany jako problem dostosowania AI do ludzkich celów, oznacza zapewnienie, że zaawansowany system będzie niezawodnie działał zgodnie z zamierzeniami ludzi i pozostanie pod ich kontrolą — także w sytuacjach, których twórcy nie przewidzieli.

Dla badaczy bezpieczeństwa nie sprowadza się to do odmowy wykonania szkodliwego polecenia. Pytanie brzmi, czy system o dużej autonomii, dostępie do narzędzi i możliwościach przewyższających zrozumienie operatorów da się bezpiecznie ukierunkować pod presją realnego świata.

Wypowiedzi Hubingera nie dowodzą, że alignment jest niemożliwy. Oznaczają natomiast, że jego zdaniem nie ma dziś wykazanej metody bezpiecznego dostosowania superinteligentnych systemów, zanim takie systemy mogą powstać. 16

Zgoda co do ostrożności, nie co do liczby

Nie ma naukowego konsensusu wokół konkretnej wartości 10 proc. Gary Marcus poparł podstawową ostrożnościową tezę Hintona: nierozsądne byłoby rozwijanie superinteligencji, zanim powstanie naukowy konsensus, że można ją tworzyć bezpiecznie i kontrolować. Jednocześnie relacje wskazują, że Marcus nie widzi realistycznej, bliskiej czasowo drogi do zagłady ludzkości. 1141

To pokazuje główną linię sporu. Można zgadzać się, że potrzebne są silne zabezpieczenia, a zarazem nie podzielać oceny prawdopodobieństwa katastrofy ani jej horyzontu czasowego. Liczby takie jak 10 proc. należy więc czytać jako eksperckie sądy w warunkach ogromnej niepewności, a nie jako pomiar.

Najważniejsze wspólne pytanie pozostaje praktyczne: jakich dowodów bezpieczeństwa społeczeństwo powinno wymagać, zanim dopuści do wdrażania lub dalszego skalowania systemów, które mogłyby uzyskać strategiczną przewagę nad ludźmi?

Warto rozdzielić trzy często mieszane twierdzenia:

• obecne modele AI stanowią zagrożenie egzystencjalne;
• przyszłe systemy mogą zdobyć zdolności tworzące takie zagrożenie;
• prawdopodobieństwo tego wyniku da się precyzyjnie obliczyć.

Przytoczone źródła traktują drugą kwestię jako poważną obawę podnoszoną przez znanych badaczy. Hubinger ocenia zarazem ryzyko ze strony obecnych modeli jako niskie, a Hinton podkreśla, że wiarygodne wyliczenie prawdopodobieństwa nie jest dziś możliwe. 11016