Trump odrzuca spowolnienie rozwoju AI. Amodei chce zasad bezpieczeństwa dla najpotężniejszych modeli

Donald Trump przedstawia rozwój najbardziej zaawansowanej sztucznej inteligencji przede wszystkim jako wyścig z Chinami. W publicznych wypowiedziach przekonywał, że USA muszą zachować pozycję lidera, bo „kto wygrywa AI, ten wygrywa”. Później nazwał ostrzeżenia, że AI może przejąć kontrolę nad światem lub zniszczyć ludzkość, „HOAX”, czyli mistyfikacją. Sprzeciw wobec AI i centrów danych określił zaś jako „SICK conspiracy” — „chorą konspirację” korzystną dla Chin. 1719

Dlaczego Trump zaatakował Dario Amodeiego

Reakcja Trumpa nastąpiła po apelu Dario Amodeiego, dyrektora generalnego Anthropic, o celowe spowolnienie tempa poprawiania możliwości najpotężniejszych systemów AI. Obaj wychodzą z innych założeń: Trump stawia na utrzymanie technologicznej przewagi Stanów Zjednoczonych, natomiast Amodei ostrzega, że możliwości modeli mogą rosnąć szybciej niż skuteczne procedury bezpieczeństwa, testowania i nadzoru. 17

Trump argumentował też, że władze już dysponują szerokimi uprawnieniami karnymi i regulacyjnymi wobec firm technologicznych, a potrzebnym zabezpieczeniem jest silny prezydent. Jego krytyka Amodeiego łączy więc odrzucenie ryzyka egzystencjalnego z obawą, że formalne ograniczenia osłabią amerykańskie firmy wobec chińskich konkurentów. 1921

Co proponuje plan „We Must Pace the Frontier”

Amodei nie wzywa do zakończenia badań nad AI. Jego trzyczęściowy plan ma ograniczyć niekontrolowany wzrost możliwości modeli na tyle, by działania dotyczące bezpieczeństwa, testów i zarządzania ryzykiem mogły nadrobić zaległości.

1. Stali, niezależni ewaluatorzy wewnątrz laboratoriów rozwijających AI graniczną. Anthropic zapowiedział, że zewnętrzni eksperci otrzymają trwały dostęp do systemów na poziomie zbliżonym do dostępu pracowników. Mają sprawdzać przestrzeganie procedur bezpieczeństwa, zgłaszać incydenty i oceniać zgodność modeli z założonymi celami podczas treningu. 16
2. Współpraca firm tworzących najbardziej zaawansowaną AI. Plan zakłada wspólne standardy bezpieczeństwa i ograniczenia dla niekontrolowanego rozwoju, zamiast rywalizacji wyłącznie o coraz szybszy przyrost możliwości modeli.
3. Współpraca międzynarodowa. Według Amodeiego najpoważniejszymi ryzykami nie da się ostatecznie zarządzać w granicach jednego państwa czy bloku politycznego.

Pierwszy punkt Anthropic przedstawił jako własne, natychmiastowe zobowiązanie, a nie tylko postulat wobec rządów i konkurencji. 16

Reakcje liderów branży

Sam Altman, szef OpenAI, stwierdził, że zgadza się z potrzebą „wyznaczenia tempa” dla granicy rozwoju AI i zapowiedział podobny dostęp dla zewnętrznych ewaluatorów. Elon Musk, stojący na czele xAI, także poparł Amodeiego.

Dyrektor generalny Microsoftu Satya Nadella pozytywnie odniósł się do rozważnego tempa i stałych ewaluatorów, ale dodał ważny warunek: nadzór nie może pozostawać w rękach niewielkiej grupy firm. Podkreślił, że dążenie do superinteligencji ma sens tylko wtedy, gdy służy ludzkości i pozostaje pod ludzką kontrolą.

Te deklaracje nie tworzą jeszcze wspólnego systemu regulacyjnego. Pokazują jednak, że kilka ważnych postaci z branży popiera bardziej formalną i ciągłą kontrolę nad najbardziej zaawansowanymi systemami.

Najtrudniejsza kwestia: Chiny i jednostronne ograniczenia

Jacob Coxon, były badacz Anthropic i OpenAI, powiedział, że osoby budujące te systemy są „genuinely frightened” — autentycznie przerażone przyszłością ludzkości. Poparł spowolnienie, ale zaznaczył, że musiałoby być ono skoordynowane z Chinami. 1

To sedno problemu. Firma albo państwo, które zwalnia samodzielnie, może obawiać się utraty pozycji wobec rywali, którzy nie przyjmą podobnych ograniczeń. Chińskie ministerstwo spraw zagranicznych odrzuciło wezwanie Amodeiego do limitów wpływających na chińskie zdolności AI, uznając je za amerykańską próbę powstrzymywania Chin, a nie neutralny system bezpieczeństwa. 4

Powstaje w ten sposób problem zaufania: zwolennicy widzą w wzajemnych zasadach sposób na redukcję ryzyka, a przeciwnicy — narzędzie do utrwalenia przewagi technologicznej drugiej strony.

Krytyka: bezpieczeństwo może chronić obecnych liderów

Inwestor Michael Burry nazwał kampanię na rzecz spowolnienia „self-serving”, czyli służącą własnym interesom. Jego argument jest taki, że wolniejszy rozwój i kosztowne wymogi zgodności z przepisami mogą pomóc już dominującym firmom AI, utrudniając wejście konkurentom. Burry podważał również twierdzenie, że obecne duże modele językowe zmierzają w stronę sztucznej inteligencji ogólnej, znanej jako AGI.

Ta krytyka nie obala samych obaw o bezpieczeństwo AI. Wskazuje jednak na realne ryzyko polityczne: przepisy projektowane po to, by rozwój systemów granicznych był bezpieczniejszy, mogą zarazem umocnić firmy, które najłatwiej spełnią ich wymagania. Wiarygodne ramy musiałyby uwzględniać zarówno bezpieczeństwo, jak i koncentrację władzy.

Dlaczego znaczenie miało planowane spotkanie Trumpa z Xi Jinpingiem

Trump i przywódca Chin Xi Jinping mieli rozmawiać o zarządzaniu AI podczas planowanego na 24 września spotkania. 4 Było ono istotne, bo największym wyzwaniem strategii bezpieczeństwa dla AI granicznej nie jest samo napisanie zasad dla jednego laboratorium. Chodzi o stworzenie porozumień, które rywalizujące mocarstwa uznają za wzajemne i możliwe do wyegzekwowania.

Narracja Trumpa, skupiona na rywalizacji z Chinami, oraz sprzeciw Pekinu wobec ograniczeń rozwoju własnej AI pokazują skalę politycznej trudności. Debata nie sprowadza się więc do prostego wyboru: przyspieszać albo wstrzymać rozwój. Dotyczy tego, czy wyścig AI da się uregulować, nie zamieniając polityki bezpieczeństwa w kolejny front geopolitycznej rywalizacji. 174