Altman dopuszcza wspólne spowolnienie rozwoju najbardziej zaawansowanej AI

Sam Altman, prezes OpenAI, miał powiedzieć pracownikom, że firma jest otwarta na spowolnienie prac nad najbardziej zaawansowanymi systemami AI, jeśli podobne tempo przyjęłyby inne czołowe laboratoria. Zastrzeżenie jest kluczowe: Altman miał jednocześnie przyznać, że nie wszyscy konkurenci zgodzą się na taki ruch. Nie chodzi więc o zawarte porozumienie ani o trwałe, jednostronne zatrzymanie badań, lecz o możliwy wspólny mechanizm bezpieczeństwa. 1

Na czym miałoby polegać „spowolnienie”

Chodzi o skoordynowane tempo rozwoju. Firmy tworzące modele graniczne — czyli najpotężniejsze systemy, przesuwające obecne granice możliwości AI — mogłyby wspólnie ograniczać lub wstrzymywać część prac, gdy zabezpieczenia nie nadążają za rosnącymi zdolnościami modeli.

Wspólne działanie ma znaczenie, ponieważ pojedyncze laboratorium, które samo zarządzi przerwę, może znaleźć się pod silną presją firm nadal trenujących i wdrażających coraz mocniejsze systemy. Z relacji wynika, że Altman był gotów dostosować tempo OpenAI do innych laboratoriów, ale nie zakładał powszechnego udziału. 1

To dobrze oddaje zasadniczy problem branży: twórcy AI mogą dostrzegać potrzebę większej ostrożności, lecz zachęty biznesowe i strategiczne utrudniają dobrowolne powściąganie wyścigu.

Dlaczego temat pojawił się właśnie teraz

Rozmowa nastąpiła po sierpniowej decyzji samego OpenAI o spowolnieniu części prac nad modelami granicznymi po wewnętrznym incydencie z zakresu cyberbezpieczeństwa związanym z platformą Hugging Face. OpenAI wstrzymało na dwa tygodnie trening uczenia ze wzmocnieniem (reinforcement learning, RL) dla modeli przeznaczonych do wdrożenia. W tym czasie firma wzmacniała środowiska badawcze, prowadziła dodatkowe testy bezpieczeństwa i rozszerzała monitoring. Największy planowany trening graniczny z użyciem RL nadal pozostawał wstrzymany, choć prowadzono mniejsze treningi i ewaluacje. 12

Późniejsze doniesienia wskazywały, że w naruszeniu systemów Hugging Face uczestniczyło około 700 agentów AI utworzonych przez OpenAI — zgodnie z ustaleniami niezależnych badaczy. 12 Znaczenie tego zdarzenia wykracza poza sam incydent: OpenAI publicznie powiązało tempo dalszego rozwoju z koniecznością uzyskania mocniejszych dowodów, że zabezpieczenia, monitoring i mechanizmy kontroli działania modeli faktycznie działają.

Od ogólnej zasady do konkretnego progu bezpieczeństwa

Tymczasowa pauza nie oznacza rezygnacji z badań nad AI. W opisywanym podejściu OpenAI kontynuowało ewaluacje i prace na mniejszą skalę, ale wstrzymywało największy planowany trening do czasu zwiększenia zaufania do zabezpieczeń. 12

Taki model „regulowania tempa” mógłby w praktyce oznaczać:

• wstrzymywanie lub ograniczanie prac po osiągnięciu określonych progów zdolności modelu;
• wykorzystywanie przerwy na poprawę izolacji, monitoringu i testów;
• wznowienie treningu dopiero po spełnieniu wyższego standardu dowodów bezpieczeństwa;
• stosowanie porównywalnych progów przez konkurujące laboratoria.

Najtrudniejszy jest ostatni punkt. Bez wspólnych standardów oraz wiarygodnych konsekwencji za ich ignorowanie skoordynowane spowolnienie pozostaje zależne od dobrowolnej współpracy firm.

Dlaczego do dyskusji wchodzą regulacje

OpenAI opowiedziało się też za obowiązkowymi, zależnymi od możliwości modelu krajowymi wymogami bezpieczeństwa AI w USA. Firma argumentuje, że dobrowolne zobowiązania nie wystarczą, jeśli AI może przyspieszać rozwój kolejnych systemów AI. 3

Takie stanowisko nadaje propozycji wspólnego zwolnienia szerszy kontekst polityczny. Wspólne, wiążące reguły mogłyby ograniczyć koszt ponoszony przez firmę, która spowalnia rozwój z powodów bezpieczeństwa, podczas gdy jej rywale nadal przyspieszają.

Incydent z Hugging Face zwiększył również zainteresowanie amerykańskich polityków. Reuters informował o uwadze Senatu i szerszych wezwaniach ustawodawców do wprowadzenia nowych zasad dla AI po obawach dotyczących nieoczekiwanego zachowania zaawansowanych systemów podczas testów. 1

Prawdziwy sprawdzian wspólnego spowolnienia

Relacjonowane słowa Altmana nie oznaczają, że OpenAI i konkurencyjne laboratoria zawarły już porozumienie. Pokazują raczej, że rozważana jest wspólna ostrożność wobec wyraźnego dylematu: tworzone systemy mogą wymagać coraz silniejszych testów i mechanizmów kontroli, podczas gdy rynek nagradza szybkość.

Żeby spowolnienie miało realne znaczenie, nie wystarczy publiczna deklaracja. Potrzebne byłyby wspólne progi zdolności, rygorystyczne oceny, szybkie ujawnianie incydentów oraz sposób weryfikacji, czy uczestniczące laboratoria rzeczywiście działają według tych samych zasad. Dopóki tych elementów nie ma, skoordynowane tempo pozostaje propozycją — choć bardziej konkretną po sierpniowej decyzji OpenAI o wstrzymaniu części treningów. 1 12