Šéfové AI zpochybnili Amodeiho varování. Pak podepsali Trumpovu dobrovolnou dohodu

Setkání v Bílém domě 29. září spojilo dvě věci, které spolu úplně neladily: podle zpráv další technologičtí manažeři zpochybnili varování šéfa Anthropic Daria Amodeiho, zatímco veřejně podpořili společnou dohodu o bezpečnosti umělé inteligence. Po schůzce Amodei řekl, že AI představuje „velmi skutečná rizika“, ale způsob, jak na ně reagovat, se stále řeší. Dohoda tak rozdílné postoje nesmazala. 2

Co se na schůzce řešilo

Podle zprávy, kterou shrnula dostupná média, se část jednání odehrála v menším kruhu, kde manažeři Amodeiho varování zpochybňovali. Dostupné informace ale nestačí k přesnému popisu výměny názorů ani k určení, kdo konkrétně co řekl. Nepotvrzují ani to, že se právě při této konfrontaci probírala ztráta pracovních míst.

Širší spor o přístup k rizikům byl zřetelnější. Amodei prosazoval pravidla, která by u nejpokročilejších systémů AI vyžadovala nezávislé audity. Trump naopak odmítal nové federální regulace a dával přednost tomu, aby dohled nad bezpečností převzaly samotné firmy. 4 Amodei po schůzce zopakoval, že rizika jsou skutečná, zatímco vhodný způsob, jak je řešit, zůstává předmětem debaty. 2

Co firmy dohodou slíbily

Bílý dům dohodu nazval White House Accord on Superintelligence. Firmy se v ní zavázaly k interním kontrolám a bezpečnostním prověrkám. Počítá také se spoluprací s nezávislými auditory, kteří mají posuzovat, zda se systémy chovají podle záměrů svých tvůrců, a s opatřeními proti neoprávněnému napadení či přístupu k nim. 315

Trump dohodu označil za „morálně závaznou“ a prohlásil, že firmy budou dohlížet samy na sebe. Zprávy ji však popisovaly jako dobrovolnou a právně nevymahatelnou. Nejde tedy o novou federální regulaci, ale o závazek, který firmy přijaly v rámci odvětví. 411

Rozdíl je podstatný: dokument vyjmenovává kroky, které mají firmy podniknout, ale neřeší, zda jim je mají ukládat závazná pravidla zvenčí, jak by se jejich dodržování vymáhalo ani zda se z těchto opatření později stane zákon. Dohoda podle zpráv ponechává otevřenou možnost, že by se některá pravidla mohla časem promítnout do legislativy.

Otázky dohledu zůstávají otevřené

Trump zmínil možnost vytvořit desetičlenný výbor, který by na odvětví dohlížel. Dostupné zprávy ale popisují pouze návrh, o němž se uvažovalo — nikoli již ustavený orgán. 210

Z dostupných zdrojů se také nepodařilo potvrdit, že byl opuštěn samostatný plán na samoregulační orgán technologického odvětví, ani jak by případně souvisel s podepsanou dohodou. Ačkoli se zprávy zabývají účastí Anthropic na schůzce i širším sporem o regulaci, nedokládají, že se firma zapojila kvůli zlepšení vztahů s administrativou před vstupem na burzu (IPO), ani že se IPO blížilo. 45

Společný příslib, rozdílné názory

Schůzka přinesla společnou řeč o bezpečnostních opatřeních, ne však shodu na úloze vlády. Amodei chce nezávislé audity podpořené regulací, zatímco Trump upřednostňuje dobrovolný dohled firem. Zásadní otázka proto zůstává: kdo má bezpečnostní požadavky pro AI stanovit a kdo má kontrolovat jejich dodržování? 4

Dohodu je proto namístě chápat jako dobrovolný rámec pro kroky samotných firem — nikoli jako důkaz, že se manažeři shodli na rozsahu rizik nebo na tom, že samoregulace stačí.