Přístup EU k testování AI odhaluje slabinu britského dohledu nad špičkovými modely

Nejde primárně o verdikt nad britskou technickou odborností, ale o problém přístupu. Národní hodnotitel nemůže nezávisle a včas posoudit špičkový model, pokud jeho účast nakonec závisí na souhlasu vývojáře.

Evropská agentura pro kybernetickou bezpečnost ENISA sice získala přístup k Anthropic Mythos 5 a OpenAI GPT-6 Astra, neznamená to však, že má trvalé právo testovat každou další verzi modelu. A už vůbec z toho neplyne, že měla přístup k Mythos 5.1. 920

Rozhoduje konkrétní verze modelu

Podle mluvčího Evropské komise ENISA testuje Mythos 5 i GPT-6 Astra. 9 Zprávy zároveň uvádějí, že Anthropic neposkytl britskému AI Security Institute model Mythos 5.1 k testování před uvedením na trh. Šlo údajně o první případ, kdy firma před britským institutem zadržela významný model v rámci předběžného testování. 2023

Není proto přesné líčit situaci jen jako vítězství EU a porážku Spojeného království. Přístup ENISA se týká dvou přesně určených modelů a konkrétních dohod. Mythos 5.1 je jiná verze s přísněji omezeným režimem přístupu. Bezpečnostní hodnocení se tak stále více dělí podle verze modelu, schopností, zamýšleného použití, jurisdikce i kritérií, která si stanoví samotný vývojář.

Proč je Mythos 5.1 náročnější případ

Anthropic uvádí, že Claude Fable 5.1 a Claude Mythos 5.1 stojí na stejném základním modelu, liší se však úrovní bezpečnostních omezení. Fable 5.1 je běžně dostupný, zatímco Mythos 5.1 je přístupný jen přes programy důvěryhodného přístupu určené pro práci v kybernetické bezpečnosti a biologických vědách. 12

Nejde tedy jen o obvyklé testování nového produktu. Systém určený pro citlivou kybernetickou či vědeckou práci vyvolává otázky řízeného testovacího prostředí, sledování zneužití, prověřování osob a nakládání s informacemi relevantními pro národní bezpečnost. Podle dostupných zpráv byl Mythos 5.1 zpočátku přístupný pouze prověřeným organizacím v USA. 1824

Dostupné podklady neprokazují, že Anthropic vyloučil Spojené království kvůli nedůvěře vůči zemi nebo jejímu institutu. Vysvětlením může být konstrukce omezeného programu, provozní bezpečnost i obchodní kontrola nad přístupem. Výsledek je ale podstatný: předchozí spolupráce ani dobrá pověst hodnotitele samy o sobě nezaručují včasný přístup k modelu s významnými dopady.

Co přístup ENISA vypovídá o vlivu EU

EU má silnější právní základ než systém založený pouze na dobrovolné spolupráci. Článek 55 Aktu EU o umělé inteligenci ukládá poskytovatelům univerzálních AI modelů se systémovým rizikem povinnost provádět hodnocení podle standardizovaných postupů a nástrojů, posuzovat a zmírňovat systémová rizika, evidovat a hlásit závažné incidenty a zajistit odpovídající úroveň kybernetické bezpečnosti. 4337

Akt počítá také s hodnocením před prvním uvedením modelu na trh, včetně zdokumentovaného adversariálního testování. To může být podle potřeby interní nebo provedené nezávislou externí stranou. 3534

Tyto povinnosti poskytovatelů však nejsou totéž jako automatický nárok ENISA na váhy modelu, neomezený systémový přístup nebo přístup před vydáním ke každému špičkovému modelu. Právě proto je nynější dohoda o testování významná: zdá se, že vznikla jak díky jednání s firmami, tak díky širší regulatorní pozici EU. 49

Regulace tedy může posílit schopnost EU požadovat důkazy, řízení rizik a plnění povinností. U modelů s citlivými kybernetickými, biologickými nebo agentními schopnostmi ale nemůže odstranit potřebu bezpečné provozní spolupráce.

Proč je Spojené království zranitelnější

Údajné vynechání Mythos 5.1 ukazuje hranice dobrovolného přístupu. Komentáře k případu zmiňují výzvy k silnějším zákonným pravomocím a formálnímu zákonnému ukotvení britského AI Security Institute poté, co mu Anthropic přístup k nejnovějšímu modelu neposkytl. 23

Dobrovolný model může fungovat dobře, pokud laboratoře vidí ve spolupráci přínos. Může být rychlejší a technicky pružnější než rigidní pravidla. Jeho slabinou je ale předvídatelnost: vývojář může přístup omezit, změnit okruh způsobilých partnerů nebo model zařadit do přísnějšího kanálu národní bezpečnosti.

Pro Spojené království z toho plyne strategické riziko. Pokud jeho hodnotitelé dostanou špičkové systémy až po vydání — nebo až poté, co je otestují jiné vlády a schválení partneři — může se země posunout z role spolutvůrce bezpečnostních podkladů do role příjemce zjištění vytvořených jinde.

Odolnější britský rámec

Bezprostředním cílem nemusí být povinné předávání vah modelů. U vysoce schopných systémů by takový požadavek mohl sám vytvářet bezpečnostní rizika a spory o duševní vlastnictví. Silnější rámec by se místo toho mohl opírat o kontrolovaný a auditovatelný přístup.

Možné kroky zahrnují:

1. Oznamovací povinnost před nasazením vybraných špičkových modelů. Vývojáři by museli určitý úřad informovat před nasazením modelů, které splní vymezené prahy schopností či rizika.
2. Zákonnou pravomoc vyžadovat podklady. AI Security Institute by mohl jasně získat oprávnění žádat bezpečnostní dokumentaci, výsledky hodnocení, informace o incidentech a relevantní technické materiály.
3. Bezpečné testovací prostředí. Pravidla by mohla požadovat časově omezený přístup přes monitorovaná API, sandboxy či jiná kontrolovaná prostředí namísto přístupu k vahám modelu.
4. Postup pro přezkum z hlediska národní bezpečnosti. Modely s významnými dopady na kybernetickou bezpečnost, biologické vědy či autonomní agenty by mohly spouštět koordinované posouzení za účasti expertů na kybernetickou bezpečnost, biologickou bezpečnost, zpravodajství a hodnocení AI.
5. Formální spolupráci s EU. Společné hodnoticí metodiky, vzájemné kanály pro bezpečné testování a slučitelné postupy pro závažné incidenty by omezily duplicitu a snížily riziko, že Spojené království vypadne z evropských testovacích sítí.

Tyto kroky míří na hlavní slabinu, kterou případ odhalil: přístup k testování musí být součástí architektury správy AI, nikoli jen výsledkem vztahů s jednotlivými laboratořemi.

Testování špičkové AI bude nejspíš víceúrovňové

Pravděpodobný vývoj směřuje k vrstvenému systému hodnocení. Modely určené pro široký trh budou podléhat testování poskytovatele, regulatorní dokumentaci a povinnostem ohledně incidentů. Citlivější schopnosti v kybernetické bezpečnosti, biologii a autonomních agentech se budou stále častěji posuzovat v omezeném prostředí. K systémům s nejvyšším rizikem může mít přístup jen malý okruh prověřených vládních, laboratorních a bezpečnostních partnerů.

Dohoda ENISA a britská absence v předběžném testování Mythos 5.1 ukazují, proč na tomto rozlišení záleží. Soutěž se už netýká pouze toho, kdo vytvoří nejsilnější model. Jde také o to, kdo dokáže nejvýznamnější verze zkontrolovat, otestovat a regulovat dříve, než se dostanou do širšího nasazení. 91220

Britská kapacita pro technické hodnocení zůstává cenná, sama o sobě ale nestačí. Udržení vlivu bude vyžadovat spolehlivé právní pravomoci doma a dlouhodobé, bezpečnostně citlivé dohody o přístupu se zahraničními partnery.