Dlaczego badacze AI chcą, by regulatorzy sprawdzili, jak sztuczna inteligencja automatyzuje własny rozwój

Apel badaczy nie dotyczy wyłącznie tego, że modele AI stają się coraz sprawniejsze. Chodzi też o możliwość, że sztuczna inteligencja będzie pomagać w tworzeniu kolejnych systemów AI — a te z kolei przejmą więcej zadań badawczych. Taka pętla mogłaby przyspieszyć rozwój technologii. Naukowcy związani z OpenAI, Anthropic, Meta i Microsoftem chcą, by decydenci ocenili, jak daleko zaszła już automatyzacja tych prac, zanim tempo zmian utrudni skuteczny nadzór. 23

Scenariusz ten bywa nazywany „eksplozją inteligencji”. To ostrzeżenie o możliwym rozwoju wydarzeń, a nie dowód, że AI już samodzielnie — bez kierowania przez ludzi — ulepsza samą siebie. Kluczowe pytanie dla polityki publicznej brzmi: jak mierzyć i kontrolować rosnącą rolę AI w badaniach nad AI? 114

Jak AI może przyspieszyć rozwój kolejnych modeli

Systemy AI mogą wspierać różne etapy tworzenia przyszłych modeli. Jeśli dzięki temu badacze zbudują sprawniejsze systemy, a te będą w stanie wykonać jeszcze więcej pracy badawczej, kolejne etapy mogą następować szybciej. Taki mechanizm określa się jako rekurencyjne samodoskonalenie: AI pomaga usprawniać proces, w którym powstają następne systemy AI. 15

Ostrzeżenie dotyczy przede wszystkim tempa zmian. W jednym ze scenariuszy opisanych w doniesieniach postęp, który normalnie zajmowałby rok, mógłby dokonać się w kilka tygodni. To prognoza, a nie zmierzony rezultat; dostępne źródła nie dowodzą, że taki rytm rozwoju już się pojawił. 314

Wcześniejsze badanie, oparte na rozmowach z 25 badaczami z czołowych laboratoriów i środowiska akademickiego, wykazało, że wielu z nich spodziewa się automatyzacji prac nad AI i związanego z nią dodatniego sprzężenia zwrotnego. To pomaga wyjaśnić, dlaczego branża traktuje ten scenariusz poważnie, ale nie przesądza, że „eksplozja inteligencji” jest nieunikniona. 1

Czego badacze oczekują od decydentów

Najpilniejszy postulat dotyczy większej przejrzystości: decydenci mieliby dokładniej sprawdzić, jak szeroko firmy wykorzystują AI w badaniach i rozwoju. Ponad 20 liderów i badaczy związanych z branżą zaapelowało o analizę postępów w tej dziedzinie oraz rozważenie zabezpieczeń. 2

To ważne rozróżnienie: apel nie dowodzi, że laboratoria oddały AI kontrolę nad badaniami. Lepsze informacje o tym, gdzie i w jaki sposób firmy używają tych systemów, mogłyby pomóc ocenić, czy obecny nadzór wystarcza w miarę przejmowania przez AI kolejnych etapów prac rozwojowych. 23

Czy wolniejsze tempo dałoby czas na zabezpieczenia?

Skoordynowane spowolnienie mogłoby zostawić więcej czasu na testy bezpieczeństwa, niezależne oceny i wzmocnienie nadzoru, zanim możliwości systemów ponownie się zmienią. Badacze z OpenAI i Anthropic publicznie opowiadali się za wolniejszym rozwojem. Inni liderzy branży preferują podejście oparte w większym stopniu na mechanizmach rynkowych. Nie ma więc powszechnej zgody ani co do tego, jak bardzo spowolnić prace, ani jak miałaby wyglądać możliwa do wdrożenia przerwa. 818

Pozostają też konkretne pytania: jakich systemów lub działań dotyczyłoby spowolnienie, kto sprawdzałby przestrzeganie ustaleń i jak koordynować je między konkurującymi firmami? Doniesienia wskazują, że niejasne pozostają zarówno znaczenie takiej przerwy, jak i sposób jej egzekwowania.

Awaryjny wyłącznik: pomocny, ale nie wystarczy

Prezes Microsoftu Brad Smith argumentował, że twórcy modeli AI, dostawcy infrastruktury chmurowej oraz osoby zarządzające agentami AI powinni mieć możliwość wyłączenia systemów. Taki mechanizm można traktować jako awaryjny hamulec — nie jako zamiennik zapobiegania zagrożeniom ani bieżącego nadzoru.

Samo wyłączenie może być jednak trudne. Systemy AI bywają uruchamiane na rozproszonej infrastrukturze, dlatego jeden przełącznik nie daje gwarancji, że zatrzyma każdy element. Eksperci wskazują również na potrzebę stałego monitorowania i interwencji człowieka.

Nadzór i interesy firm: trudne połączenie

Propozycja, by deweloperzy i dostawcy chmury odpowiadali za kontrolę systemów, rodzi pytanie o niezależność nadzoru: firmy mogą jednocześnie uczestniczyć w tworzeniu lub hostowaniu technologii i pomagać w jej monitorowaniu. Microsoft rozwija modele AI, a — jak wynika z wypowiedzi Smitha — jest też dostawcą infrastruktury chmurowej. To nakładające się role przemawiają za jasnymi zasadami i niezależną kontrolą, ale same w sobie nie dowodzą, że stanowisko firmy w sprawie bezpieczeństwa jest nieszczere. 2

Pozostaje też problem koordynacji. Liderzy branży różnią się w ocenie tempa rozwoju, a dyskusja o spowolnieniu toczy się w warunkach silnej konkurencji o tworzenie i wdrażanie AI. Jedna firma może mieć trudność z utrzymaniem dobrowolnych ograniczeń, jeśli inne będą działać szybciej. Źródła potwierdzają rozbieżności i presję konkurencyjną, ale nie dowodzą, że interesy inwestycyjne przesądzają o poglądach konkretnych badaczy. 1218

Dla decydentów wynikają z tego dwa powiązane zadania: śledzić, jak AI uczestniczy w rozwoju AI, oraz tworzyć zabezpieczenia, których skuteczność da się zweryfikować — zamiast opierać się wyłącznie na zapewnieniach firm. Ostrzeżenia uzasadniają zajęcie się tymi kwestiami już teraz. Nie rozstrzygają jednak, jak prawdopodobna jest „eksplozja inteligencji” ani które rozwiązanie polityczne zadziała najlepiej. 123