Yakovenkova narážka na ziskovost AI není důkaz, ale útok na motivace velkých laboratoří

Anatoly Yakovenko, spoluzakladatel blockchainu Solana, odpověděl na debatu o zpomalení vývoje nejpokročilejší umělé inteligence čtyřmi slovy: „Profitability at $1 trillion mcap“ — tedy zhruba „ziskovost při tržní kapitalizaci 1 bilion dolarů“. Šlo především o skeptickou narážku na motivace, které mohou stát za bezpečnostními výzvami k pomalejšímu vývoji AI.

Výraz mcap je zkratka pro market capitalization, česky tržní kapitalizaci. Yakovenko tím podle dostupného kontextu naznačoval, že omezení tempa vývoje by mohlo vedle bezpečnosti vyhovovat i velmi hodnotným AI firmám, jež potřebují proměnit nákladný vývoj modelů v dlouhodobě udržitelný zisk.

To ale není doložené zjištění o financích ani motivacích konkrétní společnosti. Yakovenko nejmenoval Anthropic, OpenAI ani jinou firmu, nepředložil finanční data a nijak nespojil spor se Solanou nebo tokenem SOL. 3541

Co Yakovenko kritizoval

Jeho poznámka mířila na běžnou námitku vůči celoodvětvovým omezením: pravidlo, které zpomalí všechny, se může lépe snášet zavedeným a velmi dobře financovaným laboratořím než menším konkurentům.

Yakovenko podle dostupných zpráv zesměšnil i představu, že úzká skupina šéfů AI firem může rozhodovat o tom, jak rychle se má vyvíjet celý obor. Kritika v jádru zní takto: pokud pravidla, jež omezí konkurenci, pomáhají definovat právě společnosti, které z nich mohou těžit, mohou bezpečnostní standardy působit jako ochrana zavedených hráčů — případně jako forma regulatorního zajetí.

To ovšem není důkaz, že Dario Amodei nebo jeho firma jednají z důvodu ziskovosti, řízení valuace, nákladů na infrastrukturu či případných plánů na vstup na burzu. Veřejně dostupné materiály dokládají Yakovenkovu skepsi, ne příčinu Amodeiho návrhu. 3543

Co Amodei skutečně navrhl

Dario Amodei, generální ředitel společnosti Anthropic, ve své eseji z 12. září We Must Pace the Frontier vyzval ke zpomalení růstu schopností AI tak, aby bezpečnostní výzkum, slaďování modelů s lidskými záměry (alignment) a nezávislé hodnocení stíhaly držet krok. Výslovně zdůraznil, že „udržování tempa“ neznamená zastavit trénování modelů ani technický pokrok. 7

Jeho plán má tři navazující úrovně:

1. Vestavění nezávislých hodnotitelů do laboratoří. Firmy vyvíjející špičkové modely by poskytly externím hodnotitelům průběžný přístup podobný přístupu zaměstnanců. Ti by ověřovali ochranná opatření, posuzovali slaďování během tréninku a hlásili incidenty. Anthropic uvedl, že tento krok zavede jednostranně. 716
2. Koordinaci mezi demokratickými státy. Laboratoře a vlády demokratických zemí by usilovaly o společné bezpečnostní standardy a limity tempa vývoje. 7
3. Omezené mezinárodní dohody. Vlády by hledaly užší dohody s dalšími státy, případně včetně Číny a autoritářských vlád, tam, kde by bylo možné ověřovat dodržování závazků a vzájemné omezení. 78

Podstatné je, že konkrétním závazkem Anthropicu je první bod. Druhý a třetí krok závisejí na dohodě firem a vlád; zatím jde o návrhy, nikoli o zavedená pravidla. 9

Proč se objevila výtka, že jde o kartel

Spor se netýká jen otázky, zda mají firmy modely důkladněji testovat. Jde o to, kdo určí tempo, jaké výsledky testů povedou k odkladu vývoje či nasazení a zda koordinované standardy nezavřou trh menším soupeřům.

David Sacks argumentoval, že Anthropic a OpenAI nepotřebují souhlas státu ani širšího odvětví, pokud chtějí vlastní vývoj zpomalit. Podle něj je problém ve snaze prosadit bezpečnostní rámec, který by mohl zavazovat konkurenty. Sacks varoval před tím, aby si dominantní dvojice firem pomocí pravidel chránila své postavení. 5052

To je i nejsilnější interpretace obavy za Yakovenkovou poznámkou: dobrovolný bezpečnostní závazek jedné firmy je něco jiného než koordinovaná omezení platná pro celé odvětví. Druhý případ ovlivňuje nejen bezpečnostní postupy, ale i hospodářskou soutěž.

Co podpořili Altman a Musk

Sam Altman z OpenAI reagoval, že souhlasí s potřebou „udržet tempo na hranici možností“ a že nezávislí hodnotitelé s přístupem podobným zaměstnancům jsou „skvělý nápad“. OpenAI podle něj udělá totéž. Elon Musk napsal stručně: „Dario má pravdu.“ 1821

Ani jedna z reakcí ale sama o sobě nevyřešila zásadnější otázky: jak by fungovala mezinárodní koordinace, zda by existovaly vymahatelné limity tempa nebo jak by vypadal společný průmyslový rámec. Jejich nejzřetelnější veřejná podpora se týkala právě přístupu nezávislých hodnotitelů. 1820

Nevyřešené otázky provedení

Myšlenka průběžného externího dohledu získá praktický význam až s jasnými pravidly. V dostupných materiálech zůstaly otevřené mimo jiné tyto body:

• Nezávislost: Kdo hodnotitele vybírá a financuje? Co je ochrání před vlivem firmy, kterou prověřují?
• Rozsah přístupu: K jakým systémům, tréninkovým procesům, hlášením incidentů, vahám modelů, datům a interním nástrojům získají přístup?
• Právo zveřejňovat zjištění: Mohou bez souhlasu společnosti zveřejnit závažné nedostatky?
• Prahové hodnoty pro zásah: Jaký výsledek testu či jaká úroveň rizika vyžaduje odložení tréninku, nasazení nebo vydání modelu?
• Vymáhání: Kdo zajistí, že firma závěry hodnotitelů skutečně dodrží?
• Konkurence a bezpečnost: Jak mohou firmy koordinovat normy, aniž by sdílely obchodně citlivé informace nebo porušovaly soutěžní právo?
• Mezinárodní ověřování: Co by učinilo dohodu s Čínou či jinými vládami věrohodnou a ověřitelnou?

Právě tyto mezery vysvětlují, proč jedni vidí riziko neurčitých pravidel ovládaných dominantními firmami, zatímco druzí vnímají návrh jako pokus převést obecné deklarace bezpečnosti do soustavné vnější kontroly. 1053

Pomalejší tempo, nebo úplná pauza?

Debata zároveň ukázala rozdílné představy o tom, jak razantně zasáhnout. Senátor Bernie Sanders vyložil shodu Amodeie, Altmana a Muska jako argument pro silnější krok: pauzu ve vývoji AI a zákaz superinteligence. 48

Amodeiho návrh je užší než úplný zákaz. Prosazuje vyvážené tempo, které má vytvořit čas pro slaďování a ověřování bezpečnosti. 7 Sacks naopak tvrdí, že společnosti přesvědčené o rizicích mohou dobrovolně zvolnit samy, aniž by požadovaly koordinovaný systém závazný pro ostatní. 52

Zásadní politická dilemata proto zůstávají: zpomalení amerických špičkových laboratoří může vyvolávat obavy o konkurenceschopnost vůči Číně, zatímco nekontrolovaný závod může nechat bezpečnostní testování a dohled daleko za schopnostmi modelů. Amodeiho rámec se snaží reagovat na oba tlaky postupným dohledem a pozdější mezinárodní koordinací, avšak jeho nejdůležitější části zatím nemají dohodnutý mechanismus vymáhání. 74

Závěr

Yakovenkův výrok nebyl finanční analýzou, ale provokací o pobídkách. Naznačuje, že tlak na zpomalení AI může být slučitelný i s obchodními zájmy mocných laboratoří, které čelí potřebě obhájit vysoké valuace a prokázat budoucí ziskovost.

Dostupné zdroje tuto domněnku nedokládají a nepotvrzují ani to, že by případné ambice na vstup na burzu byly důvodem Amodeiho návrhu. Konkrétně doloženo je užší tvrzení: Anthropic se zavázal k průběžnému přístupu nezávislých hodnotitelů, OpenAI tento princip veřejně podpořil a širší plán koordinovaných bezpečnostních limitů zůstává předmětem sporu. Klíčová otázka tedy nezní, zda má být špičková AI prověřována důkladněji, ale zda firmy stojící nejblíže technologické hranici mají spoluurčovat pravidla, která rozhodují o tom, kdo na ní smí soutěžit. 71850