AnswersPublished13 sources
Bilal Chughtai varuje před AI: závod ve vývoji může předběhnout bezpečnost
Bilal Chughtai po odchodu z Google DeepMind uvedl, že AI má potenciál „zabít nás všechny“ a že času na odvrácení takového scénáře může ubývat. Jeho varování navazuje na veřejná vyjádření bývalého výzkumníka Anthropicu Jacoba Coxona a odborníka na alignment Evana Hubingera; Hubingerův odhad pravděpodobnosti vyhynutí...
PublikovalUpraveno pomocí GPT-5.6 TerraObrázky vytvořeny pomocí GPT Image 2
Research answer
Key takeaways
- Bilal Chughtai po odchodu z Google DeepMind uvedl, že AI má potenciál „zabít nás všechny“ a že času na odvrácení takového scénáře může ubývat.
- Jeho varování navazuje na veřejná vyjádření bývalého výzkumníka Anthropicu Jacoba Coxona a odborníka na alignment Evana Hubingera; Hubingerův odhad pravděpodobnosti vyhynutí lidstva přes 10 % je výslovně osobní názor,...
- Spor se vede hlavně o tempo a dohled: zastánci požadují testování, nezávislé hodnocení a možnost zasáhnout před nebezpečným nasazením, kritici upozorňují na cenu zpomalení pro konkurenceschopnost USA.
AI Prompt
openai.comCreate a landscape editorial hero image for this Studio Global article: What did former Google DeepMind research engineer Bilal Chughtai, who co-authored AI research papers and left the company in July 2026, warn. Article summary: Chughtai’s warning was an existential-risk claim, not a prediction: after leaving DeepMind’s AGI-safety and alignment work, he said AI could “kill all humans” and that the opportunity to avert that outcome might be closi. Topic tags: general, general web, news. Style: premium digital editorial illustration, source-backed research mood, clean composition, high detail, modern web publication hero. Use reference image context only for broad subject, composition, and topical grounding; do not copy the exact image. Avoid: logos, brand marks, copyrighted characters, real person likenesses, fake screenshots, UI text, readable text, watermarks, charts with fake numbers
Výrok Bilala Chughtaie je krajně vážným varováním před existenčním rizikem, nikoli tvrzením, že umělá inteligence lidstvo nevyhnutelně zničí. Poté, co odešel z Google DeepMind, kde podle vlastních slov pracoval na bezpečnosti AGI a alignmentu — tedy na tom, aby systémy AI jednaly v souladu s lidskými záměry — napsal, že AI má potenciál „zabít nás všechny“ a že času k odvrácení tohoto výsledku možná ubývá.
Čeho se Chughtai obává
Jeho obava vychází z představy, že schopnosti AI mohou růst rychleji než naše schopnost zajistit, aby byly systémy bezpečné, předvídatelné a ovladatelné. Kritizuje hlavně „výchozí směr“ vývoje: konkurenční závod o stále výkonnější modely dříve, než budou dostatečně vyřešeny ochranné mechanismy, výzkum alignmentu a veřejný dohled.
Nevolá po jednostranném kroku jediné firmy. Navrhuje koordinovaný postup: vývoj AI by se měl odehrávat tempem, které společnost dokáže zvládnout, a nová rizika by se měla řešit dříve, než způsobí mimořádnou škodu. Firmy by podle něj měly spolupracovat, místo aby pokračovaly v „manickém závodě“.
Proč jeho slova přitáhla pozornost
Chughtai odešel v době, kdy se k rizikům vysoce pokročilých systémů nezvykle otevřeně vyjadřuje více výzkumníků i šéfů technologických firem.
Bývalý výzkumník Anthropicu Jacob Coxon uvedl, že rezignoval, protože podle něj přední laboratoře nezodpovědně závodí ve vývoji sebezdokonalující se superinteligence. Coxon řekl, že lidé, kteří AI stavějí, upřímně věří, že by mohla do konce desetiletí zničit lidstvo.
Evan Hubinger, výzkumník alignmentu v Anthropicu, se s podstatou obav veřejně ztotožnil a uvedl, že jeho osobní odhad pravděpodobnosti, že AI způsobí v příštím desetiletí vyhynutí lidstva, přesahuje 10 %. Současně odlišil tento dlouhodobý strach od dnešních modelů, které považuje za málo rizikové.
Nejde o empiricky stanovené pravděpodobnosti ani o vědecký konsenzus, ale o úsudky jednotlivých lidí z oboru. Podstatné je užší tvrzení: někteří lidé blízko vývoji hraničních modelů se domnívají, že možné následky jsou natolik závažné, že ospravedlňují přísnější opatření ještě před dalším růstem schopností systémů.
Co znamená výzva ke zpomalení hraniční AI
Chughtaiův návrh se překrývá s postojem generálního ředitele Anthropicu Daria Amodeie: nejpokročilejší systémy AI vyvíjet a nasazovat takovým tempem, které odpovídá zlepšování bezpečnostních opatření a nezávislého dohledu. Podle zpráv se za celoodvětvové zpomalení postavili také šéf OpenAI Sam Altman a Elon Musk.
Neznamená to nutně trvalý zákaz AI. Anthropic ve svém rámci pro pokročilou AI navrhuje, aby vývojáři nejschopnějších modelů museli:
- testovat systémy na katastrofická rizika;
- využívat nezávislé externí hodnotitele;
- průběžně zveřejňovat výsledky hodnocení, rizika a bezpečnostní incidenty;
- nést odpovědnost vůči vládě, která by měla pravomoc nebezpečná nasazení odrazovat nebo blokovat.
1
Anthropic také popisuje svou politiku odpovědného škálování jako přístup „pokud–pak“: pokud model vykáže předem určené nebezpečné schopnosti, firma jej nemá nasadit ani trénovat výkonnější systém, dokud nebudou zavedena odpovídající zabezpečení. 8
Protinázor: regulace může oslabit postavení USA
Spor není jen technický, ale i geopolitický. Odpůrci zpomalení tvrdí, že přísná omezení by mohla zvýhodnit konkurenční státy nebo méně opatrné firmy.
Americký prezident Donald Trump připustil, že AI může potřebovat určitá pravidla, nejzávažnější varování však zlehčil a upozornil na riziko, že Spojené státy přenechají náskok Číně. To vystihuje hlavní napětí celé debaty: je zpomalení na špici vývoje AI nezbytným řízením rizik, nebo strategickým ústupkem, který si USA nemohou dovolit?
Co označení „AI doomerismus“ vystihuje — a co zakrývá
Pojem „AI doomerismus“ se často používá pro přesvědčení, že pokročilá AI může vyvolat riziko na úrovni vyhynutí lidstva. Tato nálepka ale může zakrýt konkrétní praktickou otázku: jaké důkazy o nebezpečných schopnostech modelu by měly spustit další testování, omezení nasazení nebo zásah úřadů?
Chughtaiho argument nedokazuje, že katastrofa způsobená AI bezprostředně hrozí. Tvrdí však, že omyl v bezpečnosti může mít nevratné následky a že konkurenční tlak sám o sobě nemusí přinést potřebnou míru opatrnosti. Jím navrhovanou odpovědí je koordinovaná správa: tam, kde je to nutné, pomalejší nasazování, důkladnější hodnocení a jasnější odpovědnost dříve, než se systémy stanou hůře ovladatelnými. 1
Studio Global AI
Continue your research
This page includes a source-backed answer you can continue inside Studio Global.
People also ask
What is the short answer to "Bilal Chughtai varuje před AI: závod ve vývoji může předběhnout bezpečnost"?
Bilal Chughtai po odchodu z Google DeepMind uvedl, že AI má potenciál „zabít nás všechny“ a že času na odvrácení takového scénáře může ubývat.
What are the key points to validate first?
Bilal Chughtai po odchodu z Google DeepMind uvedl, že AI má potenciál „zabít nás všechny“ a že času na odvrácení takového scénáře může ubývat. Jeho varování navazuje na veřejná vyjádření bývalého výzkumníka Anthropicu Jacoba Coxona a odborníka na alignment Evana Hubingera; Hubingerův odhad pravděpodobnosti vyhynutí lidstva přes 10 % je výslovně osobní názor,...
What should I do next in practice?
Spor se vede hlavně o tempo a dohled: zastánci požadují testování, nezávislé hodnocení a možnost zasáhnout před nebezpečným nasazením, kritici upozorňují na cenu zpomalení pro konkurenceschopnost USA.