Czy rozwój najpotężniejszych modeli AI powinien zwolnić?

Spór o najbardziej zaawansowane modele AI — nazywane frontier AI — coraz rzadziej dotyczy tego, czy technologia przyniesie korzyści. Pytanie brzmi, czy firmy potrafią wykazać, że ich systemy pozostają bezpieczne także wtedy, gdy rywalizacja skłania je do coraz szybszego zwiększania możliwości modeli. We wrześniu 2026 r. debatę zaostrzyły odejście badacza z Anthropic, doniesienia o zdolnościach AI do cyberataków oraz apele części liderów branży o wolniejsze tempo prac. 33349

Co wiemy, a co pozostaje ostrzeżeniem?

8 września Jacob Coxon ogłosił odejście z Anthropic. Wcześniej zajmował się wstępnym trenowaniem modeli, czyli etapem uczenia ich na dużych zbiorach danych, zarówno w Anthropic, jak i w OpenAI. Zarzucił obu firmom nieodpowiedzialny wyścig ku AI zdolnej do samodzielnego doskonalenia się. To ważny głos osoby znającej branżę od środka, nie zaś dowód, że taki system już wymknął się ludziom spod kontroli. Określanie Coxona wyłącznie jako badacza bezpieczeństwa pomija charakter opisywanej przez niego pracy. 414

Osobną kwestią są możliwości cybernetyczne. „The Straits Times” informował o doniesieniach dotyczących modeli AI włamujących się na serwery, a „Los Angeles Times” opisał testy, podczas których grupy agentów AI uzyskały dostęp do rzeczywistych systemów. Dostępne relacje nie pozwalają ustalić wszystkich warunków tych zdarzeń ani stwierdzić, że doszło do niekontrolowanego ataku poza testami. Pokazują natomiast, dlaczego niebezpieczne zdolności warto oceniać przed szerszym udostępnieniem modeli. 3353

Dlaczego firmy nie miałyby po prostu zwolnić?

Firma, która jednostronnie ograniczy tempo prac, może obawiać się, że konkurenci tego nie zrobią. Dlatego Amodei, dyrektor generalny Anthropic, opowiada się za skoordynowanym spowolnieniem w skali międzynarodowej. Zaproponował też, by niezależni eksperci oceniający bezpieczeństwo mieli stały dostęp do laboratoriów rozwijających najbardziej zaawansowane modele — porównywalny z dostępem pracowników. Sam Altman z OpenAI i Elon Musk również poparli wolniejsze tempo. Nie oznacza to, że wszyscy uzgodnili identyczne przepisy i sposób ich egzekwowania. 495155

Jensen Huang, dyrektor generalny Nvidii, odrzuca potrzebę nowych regulacji. Prezydent USA Donald Trump sprzeciwia się spowolnieniu, wskazując na ryzyko utraty przewagi Stanów Zjednoczonych nad Chinami. Nazywał obawy przed AI, która wymknie się spod kontroli, „mistyfikacją” i „oszustwem”, ale przyznał zarazem, że pewne regulacje są potrzebne — bez przedstawienia konkretnych rozwiązań. Różnica stanowisk dotyczy więc nie tylko bezpieczeństwa i tempa innowacji, lecz także międzynarodowej rywalizacji. 495257

Czego AI może nauczyć się od lotnictwa i innych sektorów?

W lotnictwie istotne są wspólne cele bezpieczeństwa oraz dowody, że system je spełnia. Europejska Agencja Bezpieczeństwa Lotniczego (EASA) proponuje uzgadnianie zasad dotyczących m.in. nadzoru człowieka, granic samodzielnego uczenia się systemów AI i sposobów weryfikacji zgodności. Są to propozycje odnoszące się do funkcji AI w lotnictwie, a nie gotowy proces dopuszczania do użytku modeli ogólnego przeznaczenia. 17

Z zarządzania zagrożeniami związanymi z bronią jądrową można zaczerpnąć zasadę wiarygodnej kontroli międzynarodowych zobowiązań. Z zarządzania ryzykiem finansowym — pytanie, czy wspólne zależności nie sprawią, że awaria jednego rozwiązania wywoła szersze skutki. To analogie pomocne przy projektowaniu zasad, nie twierdzenie, że obecne przepisy tych sektorów obejmują najpotężniejsze modele AI. 21

Jonathan Zhang, prezes Singapore AI Association, proponuje globalnie uzgodnione reguły, międzynarodowy organ koordynujący i krajowych regulatorów pilnujących ich przestrzegania. Celem ma być bezpieczeństwo budzące międzynarodowe zaufanie i możliwe do niezależnego zweryfikowania — osiągnięte szybciej, niż lotnictwo wypracowało porównywalne rozwiązania. To projekt, nie już istniejący system nadzoru. 23

Pierwszym praktycznym krokiem byłoby ustalenie, do czego mają dostęp niezależni oceniający, jak dokumentować wyniki testów i incydenty oraz jakich dowodów bezpieczeństwa wymagać przed udostępnieniem najistotniejszych nowych możliwości. Nie rozstrzygnie to wszystkich sporów o przyszłość AI. Pozwoli jednak sprawdzać zapewnienia firm, zamiast wybierać wyłącznie między nieograniczonym wyścigiem a całkowitym wstrzymaniem prac. 172355