Bezpečnost AI, nebo ochrana trhu? Spor, který otevřel šéf Mistralu

„Umělá inteligence je software. Dá se kontrolovat,“ řekl šéf francouzské společnosti Mistral AI Arthur Mensch v rozhovoru pro Le Monde z 24. září. Podle něj američtí giganti využívají obavy z AI ve svůj prospěch. Jeho výhrada stojí za pozornost, není však důkazem, že jsou varování před nebezpečím přehnaná: riziko může být skutečné, i když o něm mluví firma, která má na podobě pravidel vlastní zájem.29

Kdo bude určovat pravidla?

Jádrem Menschovy kritiky není jen otázka, zda AI představuje hrozbu. Jde také o to, kdo stanoví podmínky jejího bezpečného vývoje. Pokud by vznikla pravidla šitá na možnosti největších vývojářů, menším konkurentům by se mohla dodržovat hůř. To je důvod zkoumat dopady regulace na trh, nikoli důkaz, že si velké firmy rizika vymyslely.29

Ani Mistral netvrdí, že nasazování AI je bez rizika. Firma upozornila, že modely se mohou stát mocnými aktéry, dostanou-li prostor samostatně jednat a přístup k nástrojům. Menschovo tvrzení o možnosti kontroly je proto třeba číst jako argument pro zvládání rizik, ne jako záruku, že půjde bezpečně řídit každý budoucí systém.72

Vážná varování nejsou jistou předpovědí

Jacob Coxon, bývalý výzkumník Anthropicu, který dříve působil v OpenAI, na začátku září varoval, že AI by nás „mohla všechny zabít do konce desetiletí“. Šéf Anthropicu Dario Amodei pak vyzval k dobrovolnému zpomalení vývoje nejpokročilejších modelů. Podle Le Monde jeho výzvu z 12. září podpořili hlavní američtí konkurenti firmy.18

Coxon mluvil o možnosti, nikoli o prokázaném termínu. Stejně tak samotná podpora zpomalení neukazuje, zda by plošnější omezení snižovalo riziko lépe než cílená bezpečnostní opatření.18

Spor navíc nelze zjednodušit na Evropu proti Spojeným státům. Geoffrey Hinton naléhá na rychlejší zavádění pojistek, zatímco Andrew Ng zpochybňuje podklady pro katastrofické scénáře a odmítá paušální výzvy k zastavení pokroku. Podstatná otázka tedy zní: která rizika jsou doložená a jaké opatření na ně skutečně míří?

Obvinění z dohody je jiná otázka

Žaloba podaná předplatiteli AI služeb tvrdí, že se Anthropic, OpenAI, SpaceXAI a Google po výzvě z 12. září dohodly na omezení konkurenčního vývoje. Jde o tvrzení žalobců, nikoli o soudní závěr. To, že vedoucí představitelé firem veřejně vyjadřují podobné obavy, samo o sobě nedokazuje, že uzavřeli nezákonnou dohodu.

Menschova kritika a žaloba se týkají příbuzných, ale odlišných věcí. První se ptá, zda bezpečnostní argumenty mohou zvýhodnit zavedené hráče. Druhá, zda konkurenti skutečně koordinovali zpomalení vývoje. Ani jednu otázku nevyřešíme tím, že všechna varování označíme za marketing — nebo každou výzvu k opatrnosti za důkaz kartelu.

Rozumným měřítkem je požadovat nezávisle ověřitelné podklady pro navrhovaná bezpečnostní opatření a současně zkoumat, koho jejich náklady zasáhnou. Stejnou kontrolou musí projít argumenty velkých amerických firem i Mistralův důraz na pokračování vývoje. Obchodní zájem je důvod tvrzení prověřit, ne je automaticky odmítnout.789