„Rentowność przy kapitalizacji 1 bln dolarów”. Co naprawdę zarzucał Yakovenko w sporze o spowolnienie AI

Anatoly Yakovenko, współzałożyciel Solany, odpowiedział na wezwanie do „wyznaczania tempa na granicy możliwości AI” czterema słowami: „Profitability at $1 trillion mcap”. „Mcap” to skrót od market capitalization, czyli kapitalizacji rynkowej.

Najrozsądniej odczytywać tę wypowiedź jako sarkastyczny przytyk pod adresem bodźców ekonomicznych stojących za apelem o wolniejszy rozwój najbardziej zaawansowanej AI. Yakovenko sugerował, że spowolnienie całej branży mogłoby być wygodne dla bardzo wysoko wycenianych, dobrze finansowanych laboratoriów, które muszą zamienić kosztowny rozwój modeli w trwałe zyski.

To jednak interpretacja jego krótkiego wpisu, a nie ustalenie finansowe. Yakovenko nie wskazał żadnej firmy, nie podał danych finansowych i nie połączył sporu z Solaną ani tokenem SOL. Materiał źródłowy nie dowodzi też, że Anthropic, OpenAI czy inna firma działały z motywu rentowności, obrony wyceny lub planów wejścia na giełdę. 3541

O co chodzi w krytyce Yakovenki

Sednem zarzutu jest klasyczne pytanie o to, kto zyskuje na wspólnych ograniczeniach. Reguła, która spowalnia wszystkich, może być łatwiejsza do udźwignięcia dla zasobnych liderów rynku niż dla mniejszych konkurentów. Krytycy obawiają się więc, że język bezpieczeństwa może w praktyce prowadzić do koordynacji korzystnej dla obecnych liderów — a nawet do przejęcia procesu regulacyjnego przez firmy, które same skorzystają na ograniczeniach.

Nie jest to jednak udowodnione wyjaśnienie intencji Dario Amodeiego, szefa Anthropic. Dostępne relacje potwierdzają, że Yakovenko podważał motywy propozycji, ale nie potwierdzają, by to presja na zyski, wyceny, koszty infrastruktury czy ambicje związane z IPO były przyczyną apelu Anthropic. 3543

Co faktycznie zaproponował Dario Amodei

W eseju z 12 września We Must Pace the Frontier Amodei wezwał do spowolnienia tempa wzrostu możliwości AI, tak aby badania nad bezpieczeństwem, dostrajanie modeli do ludzkich celów (alignment) i zewnętrzne testy mogły nadążyć za postępem. Zastrzegł przy tym wyraźnie, że nie chodzi o zatrzymanie treningu modeli ani postępu technicznego. 7

Plan ma trzy etapy:

1. Ewaluatorzy osadzeni wewnątrz firm. Laboratoria rozwijające najbardziej zaawansowane modele miałyby zapewnić niezależnym zespołom stały dostęp zbliżony do dostępu pracowników — do badania zabezpieczeń, oceny alignmentu w trakcie treningu oraz zgłaszania incydentów. Anthropic zadeklarował, że wdroży ten krok jednostronnie. 716
2. Koordynacja w państwach demokratycznych. Firmy i rządy państw demokratycznych miałyby dążyć do wspólnych standardów bezpieczeństwa oraz limitów tempa rozwoju. 7
3. Ograniczone porozumienia międzynarodowe. Rządy miałyby szukać węższych, możliwych do zweryfikowania uzgodnień z innymi państwami — potencjalnie również z Chinami i rządami autorytarnymi. 78

Istotne rozróżnienie: konkretnym zobowiązaniem Anthropic był pierwszy punkt. Dwa kolejne wymagają współdziałania firm i rządów, więc pozostają propozycjami, a nie wdrożonymi zasadami. 9

Skąd zarzut o kartel

Kontrowersje nie dotyczą wyłącznie potrzeby staranniejszego testowania modeli. Chodzi o to, kto ustala tempo, jakie wyniki testów miałyby wymuszać opóźnienie oraz czy wspólne normy nie ograniczą rywalizacji.

David Sacks argumentował, że Anthropic i OpenAI nie potrzebują niczyjej zgody, aby zwolnić własne prace, jeśli uznają swoje systemy za niebezpieczne. Sprzeciwiał się natomiast wykorzystaniu kwestii bezpieczeństwa do budowy szerszych ram regulacyjnych lub antymonopolowych, które wiązałyby konkurentów. Według Sacksa ryzyko polega na tym, że dominujący „duopol” mógłby użyć reguł do ochrony własnej pozycji. 5052

To najmocniejsza wersja obawy kryjącej się za wpisem Yakovenki: dobrowolne standardy bezpieczeństwa są czym innym niż skoordynowane ograniczenia dla całej branży, które wpływają jednocześnie na bezpieczeństwo i na konkurencję.

Co poparli Altman i Musk

Sam Altman napisał, że OpenAI zgadza się z potrzebą odpowiedniego tempa rozwoju najbardziej zaawansowanej AI. Uznał niezależnych ewaluatorów z dostępem podobnym do pracowniczego za „świetny pomysł” i zapowiedział podobne działanie OpenAI. Elon Musk odpowiedział krótko: „Dario ma rację”. 1821

Te wypowiedzi nie rozstrzygają jednak trudniejszych kwestii: międzynarodowej koordynacji, egzekwowalnych limitów tempa ani wspólnych zasad dla całej branży. Najwyraźniej dotyczą poparcia dla koncepcji stałego dostępu zewnętrznych ewaluatorów. 1820

Najważniejsze luki we wdrożeniu

Model stałego nadzoru zewnętrznego będzie miał znaczenie tylko wtedy, gdy jasne będą jego zasady działania. W dostępnych materiałach nie rozstrzygnięto m.in.:

• kto wybiera i finansuje ewaluatorów oraz co gwarantuje ich niezależność;
• do jakich systemów, procesów treningowych, raportów incydentów, wag modeli, danych i narzędzi wewnętrznych otrzymają dostęp;
• czy będą mogli opublikować niekorzystne ustalenia bez zgody firmy;
• jaki wynik testu lub poziom ryzyka powinien zatrzymać trening, wdrożenie albo publikację modelu;
• kto wyegzekwuje zastosowanie się firmy do ustaleń ewaluatorów;
• jak koordynować standardy bezpieczeństwa bez wymiany wrażliwych danych handlowych i naruszeń zasad konkurencji;
• co uczyniłoby porozumienie z Chinami lub innymi rządami wiarygodnym i weryfikowalnym.

Właśnie te niewiadome pozwalają krytykom mówić o ryzyku niejasnych zasad kontrolowanych przez liderów rynku, a zwolennikom — o potrzebie trwałej, zewnętrznej kontroli zamiast samych deklaracji firm. 1053

Wolniejsze tempo czy pełna pauza?

Spór ujawnił także różne poglądy na skalę koniecznej interwencji. Senator Bernie Sanders potraktował zgodę Amodeiego, Altmana i Muska jako argument za silniejszym krokiem: pauzą w rozwoju AI oraz zakazem superinteligencji. 48

Propozycja Amodeiego była węższa niż całkowity zakaz: zakładała tempo pozwalające na weryfikację bezpieczeństwa i alignmentu. 7 Sacks prezentował stanowisko przeciwne: firmy obawiające się ryzyka powinny dobrowolnie zwalniać własne działania, zamiast zabiegać o skoordynowany system obejmujący innych. 52

Dylemat polityczny jest prosty, choć trudny do rozwiązania. Zwalnianie amerykańskich laboratoriów może budzić obawy o konkurencję z Chinami; z kolei nieograniczony wyścig może sprawić, że oceny bezpieczeństwa i nadzór pozostaną daleko za rozwojem możliwości modeli. Plan Amodeiego próbuje połączyć te dwie presje poprzez stopniowe wprowadzanie nadzoru i późniejszą współpracę międzynarodową, lecz nadal brakuje uzgodnionego mechanizmu egzekwowania jego najważniejszych elementów. 74

Najkrócej

Wpis Yakovenki nie był analizą finansową, lecz prowokacyjnym pytaniem o interesy stojące za apelem o wolniejsze tempo AI. Sugerował, że taki kurs może być zgodny z komercyjnymi interesami potężnych laboratoriów, które chcą uzasadnić wysokie wyceny i w końcu osiągnąć rentowność. Źródła nie potwierdzają jednak tego zarzutu ani nie wskazują planów IPO jako przyczyny propozycji.

Fakty są węższe: Anthropic zobowiązał się do wpuszczenia niezależnych ewaluatorów, OpenAI publicznie poparło ten kierunek, a szerszy plan wspólnych ograniczeń bezpieczeństwa pozostaje sporny. Kluczowe pytanie brzmi nie tyle, czy zaawansowane AI należy testować rygorystyczniej, ile czy firmy znajdujące się najbliżej technologicznej czołówki powinny współtworzyć reguły określające, kto i na jakich zasadach może z nimi konkurować. 71850