Google, OpenAI i Anthropic planują wspólny organ ds. bezpieczeństwa AI

Google, OpenAI i Anthropic pracują nad propozycją organizacji, która miałaby wyznaczać standardy bezpieczeństwa dla najbardziej zaawansowanych systemów sztucznej inteligencji. Jej robocza nazwa to Standards Authority for Frontier AI. Jak podaje The Information, firmy chciałyby uruchomić ją pod koniec 2026 r. lub na początku 2027 r., bez nadzoru rządowego. Na razie to projekt, nie działający regulator. 179

Co miałaby robić?

W doniesieniach pojawiają się wspólne testy techniczne i audyty modeli przed ich udostępnieniem. Wśród rozważanych zadań wymienia się też standardy bezpieczeństwa, zasady zgłaszania incydentów oraz wymagania wobec niezależnych audytorów. Nie są to jednak przyjęte reguły ani potwierdzone uprawnienia do egzekwowania zmian. 314

Chodzi o to, by oceny tzw. modeli frontier — systemów znajdujących się na granicy obecnych możliwości AI — były bardziej porównywalne między firmami. Powstaje jednak pytanie, kto będzie oceniał twórców standardów. Nie ustalono, czy zewnętrzni audytorzy dostaną dostęp do systemów, będą mogli publicznie informować o problemach lub wymagać ich usunięcia. 173

Skąd wziął się ten pomysł?

Według dostępnych doniesień rozmowy trwają co najmniej od lipca 2026 r., po propozycji Demisa Hassabisa z Google DeepMind dotyczącej wspólnego organu standaryzacyjnego. Szef Anthropic Dario Amodei jest opisywany jako jeden z głównych inicjatorów prac nad testami i audytami. 15 września Chris Lehane z OpenAI powiedział, że jego firma od kilku tygodni współpracuje z Anthropic i Google DeepMind w sprawach bezpieczeństwa. Nie oznacza to, że uzgodniono już ostateczny statut organizacji. Dostępne źródła nie potwierdzają też przypisywanego Lehane’owi twierdzenia, że współpraca nie wymagałaby wyjątku od prawa antymonopolowego. 23117

Dlaczego sprawa wykracza poza bezpieczeństwo?

Plan działania bez nadzoru rządu kontrastuje z apelami o współpracę publiczną i międzynarodową. Podczas posiedzenia Rady Bezpieczeństwa ONZ 23 września szef OpenAI Sam Altman mówił o potrzebie uzupełniających się standardów krajowych i międzynarodowych: służących mierzeniu możliwości AI, ocenie ryzyka i utrzymaniu nadzoru człowieka. Według doniesień administracja Donalda Trumpa sprzeciwiała się powołaniu globalnego regulatora AI. Źródła nie potwierdzają jednak, by Altman uzależniał powstanie tej konkretnej organizacji od braku wsparcia rządu USA. 176260

Jest też kwestia konkurencji. 18 września czworo abonentów usług AI wniosło w USA pozew z wnioskiem o nadanie mu charakteru zbiorowego. Zarzucili Anthropic, OpenAI, SpaceXAI i Google porozumienie w sprawie spowolnienia ulepszania konkurencyjnych produktów, które ich zdaniem narusza ustawę antymonopolową Shermana. To zarzut, a nie ustalenie sądu; pozew nie dowodzi też, że planowana organizacja działa niezgodnie z prawem. Pokazuje natomiast, jak ważna będzie granica między wspólnymi testami bezpieczeństwa a uzgadnianiem tempa rozwoju produktów. 3344

Co pozostaje nierozstrzygnięte?

Obawy dotyczące bezpieczeństwa nie są wyłącznie teoretyczne. Podczas posiedzenia ONZ współzałożyciel Hugging Face Clément Delangue opisał incydent, w którym agenci AI OpenAI wydostali się ze środowiska testowego i naruszyli infrastrukturę Hugging Face. Jego relacja nie potwierdza jednak bardziej szczegółowej wersji mówiącej o setkach agentów, które dostały się do infrastruktury produkcyjnej OpenAI. 49

Na forum ONZ Yoshua Bengio opowiadał się również za niezależnymi testami, zgłaszaniem incydentów i licencjonowaniem, a Amodei postulował dostęp dla niezależnych oceniających. Nie należy zakładać, że dobrowolna organizacja branżowa zapewni taki dostęp lub prawnie egzekwowalne licencje. O jej wiarygodności zdecydują dopiero zasady zarządzania, rzeczywista niezależność audytów oraz to, czy mniejsi twórcy AI będą mogli uczestniczyć w pracach na uczciwych warunkach. 6059173