Vedoucí pracovníci společností Anthropic, OpenAI a dalších firem s umělou inteligencí podle Axiosu neveřejně promýšlejí nejen možný katastrofický incident spojený s AI, ale i to, co by následovalo: reakci veřejnosti, politiků a samotného odvětví. Nejčastěji zmiňovaným scénářem je rozsáhlý kyberútok, který by narušil finanční služby, připojení k internetu, dodávky elektřiny nebo vody. Jde o plánování pro případ nouze, nikoli o důkaz, že taková událost bezprostředně hrozí nebo je nevyhnutelná.
1
2
7
Co firmy údajně promýšlejí
Přípravy se podle zpráv netýkají jen okamžité technické reakce na útok. Zaměřují se také na „den poté“: jak by reagovaly firmy, celé odvětví a politici, kdyby byla AI spojena s vážnou újmou v reálném světě. Axios uvádí, že vedení firem se snaží seznamovat s těmito otázkami také členy amerického Kongresu. Další zprávy popisují testování nejhorších scénářů, při němž se obrana prověřuje simulací útoku.
17
21
38
Zprávy o možném časovém horizontu je třeba brát s rezervou. Některá sekundární média uvádějí, že část lidí z oboru očekává závažný incident během šesti až dvanácti měsíců. Jde však o předpověď připisovanou zasvěceným zdrojům, nikoli o ověřenou prognózu nebo tvrzení, že firmy katastrofu považují za jistou.
3
5 OpenAI uvedla, že její cvičení připravenosti zahrnují různé scénáře a že je nepovažuje za nevyhnutelné.
6
Proč se mluví hlavně o kyberútoku
Axios označuje za nejpravděpodobnější spouštěč kyberútok a zmiňuje možné narušení bankovních a dalších finančních služeb, internetového připojení, dodávek elektřiny nebo vody. Dostupné úryvky ale nevysvětlují, proč vedení firem řadí kyberútok před ostatní katastrofická rizika. Dokládají, o jakém scénáři uvažují, nikoli důvody, které je k tomuto hodnocení vedou.
1
2
7
Zprávy zároveň popisují případy, kdy útočníci využili nástroje AI. Forbes informoval o čínsky mluvícím hackerovi, který měl při útocích až na sto organizací využívat AI agenty a nástroje spojené s DeepSeekem, Kimi a Anthropicem. Axios samostatně uvedl, že útočník podle společnosti CrowdStrike použil Claude Code, aby zjistil, kde by mohl prodat ukradená data. Tyto popisy se týkají nástrojů použitých při údajném kriminálním tažení. Nedokazují, že systémy samy od sebe zvolily útok, ani že kampaň způsobila výpadek infrastruktury, kterého se vedení firem obává.
17
35
Ve hře je i důvěra veřejnosti a politika
Axios uvádí, že vedení firem se obává, že první vážná újma v reálném světě připisovaná nezabezpečené AI by mohla ještě prohloubit nedůvěru veřejnosti k této technologii i jejím představitelům. Zpráva zmiňuje šéfa Anthropicu Daria Amodeie, ředitele OpenAI Sama Altmana a prezidenta Trumpa, kterého spojuje s neochotou regulovat AI. Jde o předpověď možných dopadů krize na důvěru a politiku, nikoli o důkaz, že k takovému odporu už došlo.
7
17
Údajná snaha informovat členy Kongresu naznačuje, že firmy přemýšlejí také o tom, jak by zákonodárci po krizi mohli reagovat. Z dostupného zpravodajství ale nevyplývá, jaké konkrétní zákony firmy chtějí, jaká opatření prosazují ani zda by je Kongres přijal.
17
21
Co zprávy potvrzují — a co ne
Anthropic se podle zveřejněného zpravodajství odmítl vyjádřit; dostupné materiály neuvádějí proč.
30
31 A přestože zprávy popisují neveřejné plánování scénářů i cvičení připravenosti OpenAI, neukazují, zda by navrhovaná ochranná opatření v opravdové mimořádné situaci fungovala.
Zůstávají tak praktické otázky pro politiky i veřejnost: Kdo by mohl systém AI během incidentu zastavit? Mělo by být hlášení incidentů a testování povinné? Kdo by nesl odpovědnost, kdyby škodu způsobil AI agent? A jak by nezávislí odborníci ověřili, že ochranná opatření firem skutečně fungují?
Hlavní závěr je střízlivější než nejdramatičtější předpovědi: přední AI firmy podle zpráv plánují, jak postupovat při závažném incidentu i po něm. Dostupné důkazy ale nepotvrzují, že je taková událost nevyhnutelná — ani že dosavadní plány odpovídají na obtížné otázky kontroly, odpovědnosti a vymahatelných pravidel.
1
6
7