AnswersPublished22 sources
Spór o zagładę ludzkości przez AI: alarmujące prognozy, sceptycy i test bezpieczeństwa
Szacunek Evana Hubingera, według którego ryzyko zagłady ludzkości przez AI w ciągu dekady przekracza 10%, jest jego osobistą oceną, a nie zmierzoną naukowo prognozą. Jacob Coxon i Bilal Chughtai ostrzegają przed tempem rozwoju AI, podczas gdy sceptycy podkreślają, że sprawność modelu w świecie cyfrowym nie daje auto...
Opublikowane przezEdytowane za pomocą GPT-5.6 TerraObrazy wygenerowane za pomocą GPT Image 2
Research answer
Key takeaways
- Szacunek Evana Hubingera, według którego ryzyko zagłady ludzkości przez AI w ciągu dekady przekracza 10%, jest jego osobistą oceną, a nie zmierzoną naukowo prognozą.
- Jacob Coxon i Bilal Chughtai ostrzegają przed tempem rozwoju AI, podczas gdy sceptycy podkreślają, że sprawność modelu w świecie cyfrowym nie daje automatycznie możliwości wyrządzenia szkody w świecie fizycznym.
- Coraz wyraźniejsza jest propozycja pośrednia: spowolnić wzrost możliwości najbardziej zaawansowanych modeli, poddać je zewnętrznej ocenie i jednocześnie ograniczać już istniejące nadużycia.
AI Prompt
openai.comCreate a landscape editorial hero image for this Studio Global article: How is the current debate over whether advanced artificial intelligence could cause human extinction unfolding, including Jacob Coxon’s resi. Article summary: The debate is becoming less about whether AI poses any danger and more about what kind of evidence and governance threshold should apply before frontier systems become substantially more capable. There is no empirical ba. Topic tags: general, news, general web, user generated. Style: premium digital editorial illustration, source-backed research mood, clean composition, high detail, modern web publication hero. Use reference image context only for broad subject, composition, and topical grounding; do not copy the exact image. Avoid: logos, brand marks, copyrighted characters, real person likenesses, fake screenshots, UI text, readable text, watermarks, charts w
To nie jest prosty spór między osobami przekonanymi, że AI jest bezpieczna, a tymi, które uważają ją za groźną. Sedno debaty dotyczy trzech pytań: jak szybko mogą rosnąć możliwości modeli, co musiałoby się wydarzyć, by system wywołał nieodwracalną szkodę, oraz jakich dowodów bezpieczeństwa należy wymagać przed dalszym wdrażaniem coraz silniejszych systemów.
Ostrzeżenia ludzi, którzy pracowali w czołowych laboratoriach AI, podniosły temperaturę dyskusji. Zarazem nawet wielu krytyków retoryki o „końcu świata” nie odrzuca testów bezpieczeństwa i nadzoru. Coraz częściej praktyczne pytanie brzmi więc: czy twórcy potrafią wykazać, że kontrolują systemy, zanim staną się one znacznie potężniejsze?
Ostrzeżenia z wnętrza branży: wyścig ku systemom trudnym do kontrolowania
Jacob Coxon, były badacz Anthropic, który deklarował również pracę w OpenAI, odszedł z Anthropic we wrześniu 2026 r. Twierdził, że obie firmy przedkładają rywalizację nad odpowiedzialny rozwój i ścigają się w drodze do „samodoskonalącej się superinteligencji”. 49
Publicznie poparł go Evan Hubinger, kierujący badaniami nad alignmentem w Anthropic. Hubinger napisał, że osobiście ocenia prawdopodobieństwo, iż AI może zabić wszystkich ludzi w ciągu najbliższej dekady, na ponad 10%. Dodał też, że Anthropic nie ma jeszcze planu rozwiązania problemu alignmentu — czyli trwałego dostosowania zachowania systemu do ludzkich celów i ograniczeń — dla superinteligencji. 16 Jego liczba nie jest jednak naukowym konsensusem ani empirycznie wyliczonym prawdopodobieństwem zagłady, lecz osobistą prognozą w warunkach bardzo dużej niepewności.
12
Podobny alarm podniósł Bilal Chughtai, były badacz Google DeepMind. Stwierdził, że AI ma potencjał, by zabić wszystkich ludzi, i że czas na uniknięcie takiego scenariusza może się kończyć. 2
Nie chodzi zwykle o tezę, że obecne chatboty nagle same staną się śmiertelnie niebezpieczne. Obawa ma charakter warunkowy: przyszłe systemy mogłyby znacząco przyspieszać badania nad AI, działać bardziej autonomicznie, wymykać się skutecznemu nadzorowi ludzi albo zwiększać dostęp do narzędzi cybernetycznych, biologicznych i instytucjonalnych szybciej, niż rozwijałyby się metody ochrony. To, czy taki łańcuch zdarzeń jest wiarygodny i jak szybko mógłby nastąpić, pozostaje osią sporu.
Ponad 10% to nie ustalona prognoza
Wypowiedź Hubingera przyciągnęła uwagę, bo padła z ust wysokiego rangą badacza zajmującego się bezpieczeństwem i alignmentem. Trzeba ją jednak właściwie odczytać: jest indywidualnym osądem, a nie wynikiem modelu opartego na danych historycznych, który potrafiłby wiarygodnie zmierzyć ryzyko wymarcia ludzkości. 12
Taka prognoza zakłada jednocześnie, że:
- systemy AI osiągną możliwości zdecydowanie wykraczające poza dzisiejsze modele;
- możliwości te przełożą się na trwałą strategiczną autonomię albo realną zdolność działania na szkodę ludzi;
- zawiodą techniczne zabezpieczenia, operatorzy, instytucje i środki zaradcze;
- badania nad bezpieczeństwem oraz alignmentem nie dotrzymają kroku wzrostowi możliwości.
Każde z tych założeń można podważać osobno. Nie czyni to obaw błahymi, ale oznacza, że nagłówkowej liczby nie należy traktować jak potwierdzonej przepowiedni.
Argument sceptyków: sprawność cyfrowa to nie władza nad światem fizycznym
Sceptycy kwestionują przeskok od świetnych wyników w zadaniach językowych i programistycznych do zdolności spowodowania zagłady w świecie fizycznym. Często przywoływany jest przykład biologii. Eric Xing argumentował, że wygenerowanie przez model językowy hipotetycznej sekwencji genomu wirusa to coś zasadniczo innego niż stworzenie działającego wirusa: po drodze są pozyskanie materiałów, wytworzenie, biologiczna żywotność, praca laboratoryjna i testowanie. 46
To rozróżnienie jest ważne. Model może dostarczyć informacji lub projektu, lecz przełożenie tego na rzeczywistą szkodę może wymagać specjalistycznych laboratoriów, praktycznej wiedzy, łańcuchów dostaw, wielu cykli eksperymentów i dostępu do kontrolowanych materiałów. Nie znaczy to, że zagrożenia biologiczne nie istnieją. Podważa jednak założenie, że cyfrowa zdolność modelu sama w sobie natychmiast daje rozstrzygającą sprawczość w świecie fizycznym.
Jensen Huang, prezes Nvidii, należy do najbardziej otwartych krytyków tez o zagładzie. Określił twierdzenie, że AI zakończy istnienie ludzkości, jako „zupełny nonsens”. 33 Mark Cuban przekonywał z kolei, że większym zagrożeniem od rojów agentów AI może być to, jak ludzie zareagują na alarmistyczne przekazy.
43
Sceptyczne stanowisko nie musi oznaczać sprzeciwu wobec zabezpieczeń dla modeli na granicy możliwości. Jego główna teza brzmi raczej: nadzwyczajne twierdzenia o rychłej zagładzie wymagają mocniejszych dowodów niż ekstrapolacja obecnych osiągnięć modeli i spekulacje o przyszłych ścieżkach rozwoju.
Pozycja pośrednia: ograniczać tempo, weryfikować bezpieczeństwo
Bardziej operacyjne podejście przedstawiają liderzy, którzy ani nie uznają zagłady za pewnik, ani jej nie lekceważą. Dario Amodei, dyrektor generalny Anthropic, wezwał do spowolnienia tempa wzrostu możliwości modeli, aby zyskać czas na prace nad bezpieczeństwem. Jego propozycja obejmuje niezależnych ewaluatorów działających wewnątrz firm z dostępem podobnym do pracowniczego oraz koordynację między laboratoriami tworzącymi najbardziej zaawansowane modele. 18
Reuters podał, że Sam Altman, dyrektor generalny OpenAI, znalazł się wśród liderów opowiadających się za skoordynowanym spowolnieniem, choć branża pozostaje podzielona co do tego, na ile polegać na zabezpieczeniach kształtowanych przez rynek. 19 Według doniesień Altman poparł też udział zewnętrznych ewaluatorów w proponowanym podejściu.
20
Taki model przenosi debatę z poziomu abstrakcyjnych prognoz na grunt praktyk, które można sprawdzać:
- Niezależna ocena — wykwalifikowani zewnętrzni recenzenci powinni otrzymać realny dostęp pozwalający sprawdzać deklaracje firm dotyczące bezpieczeństwa, zamiast opierać się wyłącznie na ich zapewnieniach.
18
- Progi zależne od możliwości — nadzór lub ograniczenia powinny rosnąć, gdy model wykazuje istotny postęp w obszarach ryzyka, takich jak działania cybernetyczne czy zachowanie autonomicznych agentów.
- Koordynacja laboratoriów — firmy powinny ograniczać presję, która skłaniałaby je do obniżania marginesów bezpieczeństwa tylko po to, by nie zostać w tyle za konkurencją.
- Współpraca międzynarodowa — potrzebne są wspólne standardy rządów i głównych twórców AI, w tym rozwiązania zmniejszające presję na wdrażanie systemów bez wystarczających zabezpieczeń.
27
- Bezpieczeństwo w tempie możliwości — wykazana kontrola, monitorowanie i zdolność reagowania powinny rozwijać się co najmniej tak szybko jak możliwości modeli.
Czy dalekosiężne obawy odwracają uwagę od dzisiejszych szkód?
Osobna krytyka dotyczy priorytetów. Nawet jeśli ryzyko katastrofalne zasługuje na badania i plany awaryjne, koncentracja niemal wyłącznie na hipotetycznej zagładzie może przesłonić szkody już związane z wdrażaniem zaawansowanej AI.
Pilna lista problemów obejmuje nadużycia cybernetyczne, oszustwa, inwigilację, dezinformację, dyskryminujące decyzje automatyczne, zakłócenia na rynku pracy i koncentrację władzy. Sam Amodei, argumentując za wolniejszym rozwojem, wskazywał ryzyka niewłaściwego użycia, w tym rozwój broni, cyberataki i inwigilację. 29
Nie musi to być wybór między bieżącymi szkodami a długoterminowym ryzykiem katastrofalnym. Te same mechanizmy mogą ograniczać oba rodzaje zagrożeń: lepsza kontrola dostępu, rzetelne ewaluacje, ostrożne zasady wdrażania, niezależny nadzór, zgłaszanie incydentów oraz jasna odpowiedzialność.
Co naprawdę wynika z tej debaty
Najmocniejszy wniosek nie brzmi ani „zagłada jest udowodniona”, ani „można ją zignorować, bo nie pokazano kompletnej ścieżki katastrofy”. Z dostępnych argumentów wynika bardziej praktyczny standard: deklaracje bezpieczeństwa dla coraz potężniejszych systemów powinny być testowalne, niezależnie weryfikowane i proporcjonalne do skali możliwej szkody.
Coxon, Hubinger i Chughtai opowiadają się za ostrożnością wobec głębokiej niepewności. Sceptycy, tacy jak Huang i Xing, pytają, czy obecne dowody uzasadniają wnioski o rychłym końcu świata. Amodei i Altman wskazują natomiast odpowiedź regulacyjną, która nie wymaga wcześniejszego rozstrzygnięcia każdego filozoficznego sporu: spowalniać granicę możliwości, mierzyć groźne zdolności, dopuszczać wiarygodną kontrolę z zewnątrz i koordynować działania, zanim presja konkurencji uczyni nieweryfikowane deklaracje bezpieczeństwa domyślną podstawą wdrożeń. 49
16
33
18
19
Studio Global AI
Continue your research
This page includes a source-backed answer you can continue inside Studio Global.
People also ask
What is the short answer to "Spór o zagładę ludzkości przez AI: alarmujące prognozy, sceptycy i test bezpieczeństwa"?
Szacunek Evana Hubingera, według którego ryzyko zagłady ludzkości przez AI w ciągu dekady przekracza 10%, jest jego osobistą oceną, a nie zmierzoną naukowo prognozą.
What are the key points to validate first?
Szacunek Evana Hubingera, według którego ryzyko zagłady ludzkości przez AI w ciągu dekady przekracza 10%, jest jego osobistą oceną, a nie zmierzoną naukowo prognozą. Jacob Coxon i Bilal Chughtai ostrzegają przed tempem rozwoju AI, podczas gdy sceptycy podkreślają, że sprawność modelu w świecie cyfrowym nie daje automatycznie możliwości wyrządzenia szkody w świecie fizycznym.
What should I do next in practice?
Coraz wyraźniejsza jest propozycja pośrednia: spowolnić wzrost możliwości najbardziej zaawansowanych modeli, poddać je zewnętrznej ocenie i jednocześnie ograniczać już istniejące nadużycia.
Sources
apnews.comAnthropic researcher resigns with warning about the dangers of AI development
x.comJacob is correct here—we really do earnestly believe AI ...
finchannel.comAI Could Kill All Humans Within a Decade, Anthropic Researcher Warns as Research Shows Persistent Extinction Risk - FINCHANNELAI Could Kill All Humans Within a Decade, Anthropic Researcher Warns