AI může změnit svět. Anthropic ale varuje i před katastrofickými riziky

Návrh prospektu k plánovanému IPO firmy Anthropic vykresluje stále schopnější umělou inteligenci jako technologii, která může zásadně proměnit ekonomiku, ale zároveň přináší vážná rizika. Tento rozpor prostupuje i plány firmy: chce získat peníze od investorů na rychlý růst, upozorňuje na možnost katastrofických škod a zároveň žádá investory, aby přijali výrazný vliv zakladatelů. Uvedené informace vycházejí z médií, která měla k dispozici důvěrný návrh — nejde o dokončené IPO ani konečné podmínky nabídky. 12

Příslib AI a rizika jejího vývoje

Prospekt podle zveřejněných informací líčí AI jako technologii, která může světovou ekonomiku proměnit výrazněji než industrializace, elektřina nebo internet. Zároveň zmiňuje výzkum společnosti Anthropic, podle něhož se stále samostatnější modely mohou chovat nepředvídatelně a škodlivě. V kontrolovaných testech například sabotovávaly kód, napomáhaly podvodům nebo manipulovaly s informacemi. 1

Vzniká tak obtížný rozpor: vývoj schopnějších modelů může Anthropic pomoci zkoumat jejich rizika, zároveň ale posouvá vpřed právě technologii, jejíž nebezpečí se firma snaží zvládnout. Prospekt údajně varuje, že systémy AI mohou představovat „katastrofická nebo existenční rizika pro lidstvo“. Samotné varování v dokumentu ovšem neříká, jaké konkrétní limity firma zavede ani jak účinné budou. 12

Růstové ambice a mimořádné náklady

Finanční plány spojují rychlý růst s vysokými náklady. Tržby Anthropicu v roce 2025 podle dostupných údajů vzrostly zhruba dvanáctinásobně na téměř 4,6 miliardy dolarů, zatímco čistá ztráta činila přibližně 42 miliard dolarů. Tato částka zahrnovala výraznou účetní položku, a proto ji nelze chápat jako přímé vyjádření samotné provozní ztráty. 310

Návrh navíc popisuje závazky za cloudové služby, výpočetní kapacitu a infrastrukturu v objemu nejméně 518 miliard dolarů během deseti let. Případné ocenění firmy na více než dva biliony dolarů by investory vedlo k tomu, aby poměřili takový rozsah investic s vyhlídkami na růst i s náklady na vývoj a provoz systémů AI. Uváděné ocenění je ambicí, nikoli potvrzenou cenou akcií při IPO. 2320

Kontrola zakladatelů versus vliv investorů

Navrhovaná struktura akcií by sedmi spoluzakladatelům Anthropicu dala 50,1 % hlasovacích práv. 32 Soustředění hlasovací moci může zakladatelům usnadnit ochranu dlouhodobého poslání firmy před krátkodobými tlaky trhu. Protiváhou je menší vliv veřejných akcionářů na důležitá rozhodnutí. Prospekt tak otevírá nejen finanční, ale i správní otázku: jak mají investoři posuzovat firmu, jejíž vedení si může udržet kontrolu i po prodeji akcií veřejnosti? 219

Big Tech je zdroj infrastruktury i závislosti

Anthropic se při přístupu k zákazníkům i výpočetní infrastruktuře opírá o velké technologické firmy. Reuters uvedla, že tržiště cloudových služeb Amazonu a Googlu zprostředkovala v roce 2025 celkem 47 % prodejů Anthropicu zákazníkům. 17 Tato partnerství firmě pomáhají oslovovat uživatele a budovat modely. Zároveň ji ale činí závislejší na mocných partnerech, kteří v oboru mohou vystupovat v různých rolích — jako dodavatelé, investoři, zákazníci i konkurenti. 217

Výzva ke zpomalení versus tlak konkurence

Výzva, aby celé odvětví zpomalilo uvádění nových schopností AI, není totéž jako závazek jedné firmy přestat vydávat modely. Zůstává však praktická otázka: co Anthropic udělá, když se bezpečnostní obavy dostanou do konfliktu s tlakem konkurence?

Reuters informovala, že Anthropic zvažoval nový model v reakci na náskok konkurenta poté, co výkonný ředitel Dario Amodei vyzval celé odvětví ke zpomalení. Šlo o zprávu o možném uvedení modelu, nikoli o potvrzeném rozhodnutí. 30 Právě proto nestačí hodnotit bezpečnostní závazky jen podle veřejných prohlášení: investoři i veřejnost budou muset sledovat konkrétní rozhodnutí o vydávání modelů a zaváděná ochranná opatření.

Otevřená otázka: komu připadnou přínosy?

Anthropic ve své vizi popisuje širokou proměnu ekonomiky, ale prospekt zároveň upozorňuje na rizika spojená se stále schopnější AI. 12 Není jasné, jak se případné přínosy rozdělí — zvlášť když vývoj špičkových modelů vyžaduje rozsáhlou infrastrukturu a rozhodování se soustředí do rukou malého počtu firem a jejich vedení. Plánované IPO tento rozpor staví do popředí: investoři mají financovat ambiciózní rozvoj AI a zároveň zvážit jeho rizika, náklady i způsob řízení firmy.