Jak se rodí systém hodnocení bezpečnostních chyb v AI: Bílý dům a Anthropic mění krizové řízení v pravidla

Spor o to, co je nebezpečný únik

Bezprostředním důvodem pro zavedení exportních kontrol byl hlášený únik (jailbreak) – metoda, jak obejít bezpečnostní zábrany modelů. Obě strany se však zásadně neshodly na jeho závažnosti.

• Postoj Anthropicu: Generální ředitel Dario Amodei během krizových telefonátů s úředníky argumentoval, že daný únik je „úzký“ a „neuniverzální“ – nejde o systémové obcházení, které by bylo možné plošně zneužít. Firma veřejně uvedla, že vláda poskytla pouze „slovní důkaz o potenciálním úzkém, neuniverzálním úniku“ . „Nesouhlasili jsme s tím, že by nález úzkého potenciálního úniku měl být důvodem ke stažení komerčního modelu,“ uvedl Anthropic v blogovém příspěvku .
• Postoj vlády: Bílý dům považoval jakýkoli prokázaný únik bezpečnostních zábran u modelu s pokročilými kybernetickými útočnými schopnostmi – Fable 5 byl částečně navržen k identifikaci softwarových zranitelností – za nepřijatelné národní bezpečnostní riziko, zejména pokud by modely zůstaly přístupné cizím nepřátelům .

Neshoda rychle eskalovala. Podle několika zpráv Amodei v telefonátech s úředníky důrazně oponoval a označil obavy vlády za nedorozumění; v jednu chvíli jednání málem zcela ztroskotala .

Bílý dům označil model Fable 5 za testovací případ pro svá nová bezpečnostní pravidla vyplývající z výkonného nařízení o AI a koordinoval postup napříč ministerstvy obchodu, financí i samotným Bílým domem . Administrativa se obávala, že by schopnosti modelů mohly Číně umožnit přístup k nástrojům pro kybernetické útoky a dalším nebezpečným technologiím dvojího užití .

Od konfrontace k vyjednávání: Budování jednotného rámce pro dodržování pravidel

Během několika dní po krizi s exportními kontrolami přešly Bílý dům a Anthropic od konfrontace ke strukturovanému vyjednávání . 17. dubna 2026 se Amodei sešel s úředníky Bílého domu v rozhovorech označených jako produktivní jednání o příměří – šlo o první kontakt na nejvyšší úrovni od dřívějších třenic mezi Anthropicem a Pentagonem .

Klíčovými postavami následných jednání na vysoké úrovni jsou americký ministr obchodu Howard Lutnick, národní kybernetický ředitel Sean Cairncross a spoluzakladatel Anthropicu Tom Brown . Administrativa kvůli testovacímu případu Fable 5 koordinuje postup ministerstev obchodu, financí a Bílého domu .

Hlavním projektem, který z těchto rozhovorů vzešel, je jednotný rámec pro hodnocení dodržování pravidel při posuzování závažnosti bezpečnostních zranitelností – zejména úniků – u modelů AI na hranici možností . Cílem rámce je vytvořit společné měřítka pro určení, zda bezpečnostní chyba opravňuje k zásahu vlády .

Jednotný systém hodnocení: Tři kritéria

Základem tohoto úsilí je jednotný systém klasifikace úniků. Ačkoli oficiální označení (např. „Kritický“, „Vysoký“, „Střední“, „Nízký“) ani podrobná metodika nebyly dosud zveřejněny, systém údajně posuzuje zranitelnosti podle třech kritérií pro hodnocení rizik :

1. Obcházené ochrany – Které bezpečnostní zábrany (např. ústavní klasifikátory, filtry v reálném čase) byly prolomeny.
2. Zpřístupněné schopnosti – Jaké nebezpečné schopnosti modelu (např. kybernetické útoky, biologické návody, chemická syntéza) se staly přístupnými.
3. Reálný dopad – Jak snadno lze únik ve velkém zneužít a jaká škoda by z toho mohla vzniknout.

Cílem vlády je pomocí tohoto systému stanovit jasné, předem definované hranice rizik, které by automaticky určily, zda je třeba zavést exportní kontroly, požadovat zmírnění rizik nebo zablokovat nasazení – namísto ad hoc jednání až po propuknutí krize .

Strategický cíl vlády: Od reaktivního k pravidlovému přístupu

Zastřešujícím cílem administrativy je přejít od reaktivních, krizí řízených zásahů k systému založenému na pravidlech . Spoluvytvářením hodnotícího rámce a rizikových hranic s firmou Anthropic chce Bílý dům dosáhnout následujícího:

• Vytvořit předvídatelnost pro AI laboratoře ohledně toho, co spouští vládní akci.
• Stanovit sdílenou terminologii pro popis závažnosti zranitelností.
• Vyhnout se budoucím scénářům, kdy je model veřejně nasazen a pak náhle stažen na základě exportních kontrol – jako se to stalo s modely Fable 5 a Mythos 5.

Klíčová nejistota: Neexistují žádná zveřejněná podrobná kritéria, rozsah ani časový plán rámce. Tři kritéria hodnocení rizik (obcházené ochrany, zpřístupněné schopnosti, reálný dopad) byla uvedena několika médii, ale konkrétní bodovací metodika nebyla zveřejněna .

Širší kontext: Jednání G7

Vývoj rámce mezi USA a Anthropicem probíhá na pozadí jednání skupiny G7 o bezpečnostních standardech AI. G7 pracuje na harmonizovaných mezinárodních měřítkách pro hodnocení rizik spojených s AI na hranici možností . Očekává se, že jednotný klasifikační systém, který Bílý dům a Anthropic budují, bude tyto širší multilaterální rozhovory informovat – a zároveň jimi bude ovlivňován, ačkoli konkrétní výsledky G7 jsou stále předmětem jednání .

Co bude dál

Vývoj rámce představuje významný obrat v americké politice umělé inteligence. Jen několik dní před zavedením exportních kontrol publikoval Amodei politický esej, v němž tvrdil, že vlády by měly mít závaznou zákonnou pravomoc blokovat nebo rušit nasazení modelů AI na hranici možností, které neprojdou nezávislým bezpečnostním testováním . Krize z 12. června tento princip podrobila nečekaně konfrontační zkoušce.

Klíčovou otázkou, která zůstává otevřená, je: jak definovat hranici mezi úzkou, zvládnutelnou zranitelností a systémovým rizikem, které vyžaduje zásah vlády? Odpověď ovlivní nejen budoucí vydání modelů Anthropicu, ale i celkové regulační prostředí pro vývoj umělé inteligence na hranici možností.