AnswersPublished22 sources
Může AI vyhubit lidstvo? Varování expertů se střetávají s požadavkem na ověřitelné důkazy
Odhad Evana Hubingera, že pravděpodobnost vyhubení lidstva AI během deseti let přesahuje 10 %, je jeho osobní úsudek, nikoli vědecky změřená předpověď či konsenzus. Rezignace Jacoba Coxona a varování Bilala Chughtaie zvýšily tlak na přední AI laboratoře; skeptici však upozorňují, že digitální schopnosti automaticky...
PublikovalUpraveno pomocí GPT-5.6 TerraObrázky vytvořeny pomocí GPT Image 2
Research answer
Key takeaways
- Odhad Evana Hubingera, že pravděpodobnost vyhubení lidstva AI během deseti let přesahuje 10 %, je jeho osobní úsudek, nikoli vědecky změřená předpověď či konsenzus.
- Rezignace Jacoba Coxona a varování Bilala Chughtaie zvýšily tlak na přední AI laboratoře; skeptici však upozorňují, že digitální schopnosti automaticky nezajišťují přístup k fyzickým prostředkům nutným pro katastrofál...
- Praktický střed debaty prosazuje nezávislé hodnocení, prahy pro rizikové schopnosti, koordinaci mezi laboratořemi a řešení současných hrozeb, jako jsou kyberútoky, podvody či sledování.
AI Prompt
openai.comCreate a landscape editorial hero image for this Studio Global article: How is the current debate over whether advanced artificial intelligence could cause human extinction unfolding, including Jacob Coxon’s resi. Article summary: The debate is becoming less about whether AI poses any danger and more about what kind of evidence and governance threshold should apply before frontier systems become substantially more capable. There is no empirical ba. Topic tags: general, news, general web, user generated. Style: premium digital editorial illustration, source-backed research mood, clean composition, high detail, modern web publication hero. Use reference image context only for broad subject, composition, and topical grounding; do not copy the exact image. Avoid: logos, brand marks, copyrighted characters, real person likenesses, fake screenshots, UI text, readable text, watermarks, charts w
Debata o tom, zda by pokročilá umělá inteligence mohla ohrozit samotné lidstvo, není prostým střetem mezi táborem „AI je bezpečná“ a táborem „AI nás zničí“. Ve skutečnosti se vede spor o tři otázky: jak rychle mohou schopnosti systémů růst, jaká posloupnost kroků by musela vést od jazykového modelu k nevratné škodě a kolik důkazů má společnost požadovat, než připustí další zrychlování vývoje.
Varování lidí, kteří působili přímo v předních AI laboratořích, dodala tématu naléhavost. Ani výrazní kritici katastrofických scénářů však obvykle netvrdí, že se obejdeme bez testování a bezpečnostních opatření. Stále důležitější otázkou je, zda vývojáři dokážou ověřitelně prokázat kontrolu nad systémy, jakmile jejich schopnosti rostou.
Varování zevnitř: závod k systémům, které nemusí jít uhlídat
Jacob Coxon, bývalý výzkumník Anthropic, který uvedl, že dříve pracoval také v OpenAI, v září 2026 rezignoval. Podle něj obě společnosti dávají v soutěži přednost rychlosti před odpovědným vývojem a ženou se k „sebezdokonalující superinteligenci“. 49
Jeho varování veřejně podpořil Evan Hubinger, vedoucí výzkumu alignmentu — tedy snahy zajistit, aby chování AI zůstávalo v souladu s lidskými cíli — v Anthropic. Hubinger uvedl, že osobně vidí více než desetiprocentní pravděpodobnost, že AI během příštích deseti let zabije všechny lidi. Současně řekl, že Anthropic zatím nemá plán, jak vyřešit alignment superinteligence. 16 Jeho číslo je ale nutné číst přesně: jde o osobní odhad v podmínkách velké nejistoty, nikoli o vědecký konsenzus ani empiricky vypočtenou pravděpodobnost.
12
Podobně se vyjádřil Bilal Chughtai, bývalý výzkumník Google DeepMind. Podle něj má AI potenciál zabít všechny lidi a čas k odvrácení takového výsledku může docházet. 2
Tato varování obvykle netvrdí, že dnešní chatboti náhle začnou samostatně škodit. Obávaný scénář je podmíněný: budoucí systémy by mohly výrazně urychlit vlastní AI výzkum, jednat autonomněji, uniknout účinnému lidskému dohledu nebo rozšířit přístup ke kybernetickým, biologickým či institucionálním možnostem rychleji, než se zlepší ochranná opatření. Právě věrohodnost a časový horizont tohoto řetězce jsou jádrem sporu.
Proč „více než 10 %“ není hotová předpověď
Hubingerův odhad přitahuje pozornost, protože jej vyslovil seniorní odborník na bezpečnost AI a zní velmi konkrétně. Neznamená však, že existuje model nebo historická data, která by pravděpodobnost vyhynutí lidstva dokázala změřit. 12
Aby se takový scénář naplnil, muselo by platit několik dosud nevyřešených předpokladů:
- systémy AI by musely být výrazně schopnější než dnešní modely;
- jejich schopnosti by se musely přenést do dlouhodobé strategické autonomie či reálné škodlivé moci;
- technické pojistky, provozovatelé, instituce i protiopatření by je nedokázali zastavit — ani zabránit jejich zneužití;
- výzkum bezpečnosti a alignmentu by za růstem schopností zaostal.
O každém článku tohoto řetězce lze samostatně diskutovat. Neznamená to, že obavy jsou bezvýznamné. Znamená to, že titulkové procento nelze zaměňovat za prokázanou prognózu.
Námitka skeptiků: digitální schopnost není moc ve fyzickém světě
Skeptici zpochybňují skok od kvalitního výkonu v práci s textem a softwarem ke schopnosti způsobit fyzickou katastrofu globálního rozsahu. Často se uvádí biologie. Eric Xing upozornil, že vytvořit jazykovým modelem hypotetický návrh genomu viru je zásadně něco jiného než získat materiál, virus skutečně vyrobit, ověřit jeho biologickou životaschopnost a testovat jej v laboratoři. 46
Tento rozdíl je podstatný. Model může nabídnout informace či návrh, ale jeho proměna ve skutečnou škodu může vyžadovat specializované zázemí, praktické know-how, dodavatelské řetězce, opakované experimenty a přístup ke kontrolovaným materiálům. Neznamená to, že biologická bezpečnostní rizika neexistují. Zpochybňuje to však předpoklad, že samotná digitální schopnost okamžitě vytváří rozhodující fyzickou moc.
Generální ředitel Nvidie Jensen Huang patří k nejostřejším kritikům tezí o vyhynutí: představu, že AI ukončí lidstvo, označil za „naprostý nesmysl“. 33 Mark Cuban zase tvrdí, že větší hrozbou než samotné roje AI agentů může být lidská reakce na poplašná tvrzení šířená na sociálních sítích.
43
Skeptický pohled tedy nutně neříká, že pokročilá AI nepotřebuje pojistky. Tvrdí spíše, že mimořádné tvrzení o bezprostředním vyhynutí vyžaduje silnější oporu než extrapolaci dnešního výkonu modelů a spekulativních budoucích cest.
Praktický střed: zpomalit růst schopností a ověřovat bezpečnost
Provozuschopnější odpověď přichází od lidí, kteří ani nepovažují vyhynutí za jistotu, ani ho rovnou neodmítají. Šéf Anthropic Dario Amodei vyzval ke zpomalení tempa, jímž se zlepšují schopnosti modelů, aby vznikl čas na bezpečnostní práci. Jeho návrh zahrnuje nezávislé hodnotitele s přístupem podobným zaměstnancům a koordinaci mezi firmami vyvíjejícími nejpokročilejší AI. 18
Podle agentury Reuters patřil šéf OpenAI Sam Altman mezi lídry, kteří usilovali o koordinované zpomalení, byť odvětví zůstává rozdělené v tom, nakolik spoléhat na tržně řízené pojistky. 19 Altman podle dostupných zpráv podpořil také zapojení externích hodnotitelů.
20
Tento přístup posouvá diskusi od abstraktních předpovědí ke kontrolovatelným postupům:
- Nezávislé hodnocení: Kvalifikovaní externí odborníci mají mít smysluplný přístup, aby mohli bezpečnostní tvrzení ověřovat místo pouhého spoléhání na prohlášení firem.
18
- Prahy podle schopností: Pokud model výrazně pokročí v citlivých oblastech — například v kybernetických operacích či autonomním jednání agentů — má se zvýšit dohled nebo omezit nasazení.
- Koordinace laboratoří: Cílem je snížit tlak, který firmy vede k osekávání bezpečnostních rezerv jen proto, aby nezaostaly za konkurencí.
- Mezinárodní spolupráce: Bezpečnostní standardy by měly koordinovat vlády a hlavní vývojáři AI, včetně ujednání, která zmírní konkurenční tlak na předčasné nasazení.
27
- Bezpečnost musí držet krok: Schopnost systém kontrolovat, monitorovat a reagovat na incidenty má růst zároveň s jeho výkonem — ne až dodatečně.
Neodvádějí dlouhodobé obavy pozornost od škod, které už existují?
Další kritika se týká priorit. I kdyby si katastrofické riziko zasloužilo výzkum a krizové plánování, soustředění téměř výhradně na nejistý scénář vyhynutí může zastínit problémy, které pokročilá AI přináší už nyní.
Jde například o kybernetické zneužití, podvody, sledování, dezinformace, diskriminační automatizovaná rozhodnutí, dopady na práci a koncentraci moci. Sám Amodei při argumentaci pro zpomalení vývoje uváděl rizika zneužití včetně vývoje zbraní, kyberútoků a sledování. 29
Nemusí přitom jít o volbu mezi dnešními škodami a dlouhodobým katastrofickým rizikem. Řada opatření slouží oběma cílům: přísnější řízení přístupu, lepší testování, opatrnější nasazování, nezávislá kontrola, hlášení incidentů a jasně určená odpovědnost mohou omezit současné zneužití a zároveň zlepšit připravenost na schopnější systémy.
Co tato debata skutečně mění
Nejsilnějším závěrem není, že vyhynutí je prokázané — ani že je lze odmítnout jen proto, že dosud nebyla předvedena úplná cesta ke katastrofě. Praktické měřítko je jiné: tvrzení o bezpečnosti stále schopnějších systémů musí být testovatelná, nezávisle prověřitelná a přiměřená rozsahu možné škody.
Coxon, Hubinger a Chughtai obhajují opatrnost tváří v tvář nejistotě. Skeptici jako Huang a Xing zpochybňují, zda současné důkazy opravňují k závěrům o blízké apokalypse. Amodei a Altman ukazují cestu, která nevyžaduje nejprve vyřešit každý filozofický spor: zpomalit hranici vývoje, měřit nebezpečné schopnosti, umožnit důvěryhodný externí dohled a koordinovat pravidla dříve, než se neověřená bezpečnostní tvrzení stanou výchozím důvodem pro nasazování. 49
16
33
18
19
Studio Global AI
Continue your research
This page includes a source-backed answer you can continue inside Studio Global.
People also ask
What is the short answer to "Může AI vyhubit lidstvo? Varování expertů se střetávají s požadavkem na ověřitelné důkazy"?
Odhad Evana Hubingera, že pravděpodobnost vyhubení lidstva AI během deseti let přesahuje 10 %, je jeho osobní úsudek, nikoli vědecky změřená předpověď či konsenzus.
What are the key points to validate first?
Odhad Evana Hubingera, že pravděpodobnost vyhubení lidstva AI během deseti let přesahuje 10 %, je jeho osobní úsudek, nikoli vědecky změřená předpověď či konsenzus. Rezignace Jacoba Coxona a varování Bilala Chughtaie zvýšily tlak na přední AI laboratoře; skeptici však upozorňují, že digitální schopnosti automaticky nezajišťují přístup k fyzickým prostředkům nutným pro katastrofál...
What should I do next in practice?
Praktický střed debaty prosazuje nezávislé hodnocení, prahy pro rizikové schopnosti, koordinaci mezi laboratořemi a řešení současných hrozeb, jako jsou kyberútoky, podvody či sledování.
Sources
apnews.comAnthropic researcher resigns with warning about the dangers of AI development
x.comJacob is correct here—we really do earnestly believe AI ...
finchannel.comAI Could Kill All Humans Within a Decade, Anthropic Researcher Warns as Research Shows Persistent Extinction Risk - FINCHANNELAI Could Kill All Humans Within a Decade, Anthropic Researcher Warns