Dlaczego badacze bezpieczeństwa AI mówią o wypaleniu, lęku i odejściach z pracy?

Najkrótsza odpowiedź brzmi: dla części osób pracujących nad bezpieczeństwem zaawansowanej AI presja zawodowa łączy się z poczuciem moralnej odpowiedzialności. Testują systemy, które ich zdaniem mogą zostać wykorzystane do szkodliwych działań biologicznych lub cybernetycznych, a zarazem obserwują konkurencję firm dążących do coraz szybszego wdrażania kolejnych modeli.

Według relacji przytoczonych przez SBS, powołujących się na „Financial Times”, kilku pracowników brytyjskiego AI Safety Institute — instytucji niezależnie oceniającej modele graniczne — skorzystało ze zwolnień lekarskich albo wsparcia psychologicznego. Źródła wskazywały na niskie morale, wypalenie i napięte harmonogramy testów. 15 Publicznie dostępne informacje nie pozwalają jednak określić skali tego zjawiska ani przesądzać, jak powszechne jest ono w poszczególnych firmach, takich jak Anthropic, OpenAI czy Google DeepMind.

Ryzyko nie jest dla nich abstrakcją

Obawy dotyczą dwóch poziomów zagrożeń. Pierwszy jest stosunkowo bezpośredni: modele mogą obniżać próg wejścia do cyberataków albo ułatwiać niewłaściwe wykorzystanie wiedzy biologicznej. Drugi dotyczy przyszłości, w której coraz bardziej autonomiczne systemy rozwijają zdolności szybciej, niż ludzie potrafią je zrozumieć, przetestować i objąć skutecznymi zasadami kontroli. Centrum CSET Uniwersytetu Georgetown wskazuje, że automatyzacja badań i rozwoju AI może przyspieszyć postęp oraz utrudnić ludziom zrozumienie i kontrolowanie systemów. 4

Jacob Coxon, który pracował nad wstępnym trenowaniem modeli zarówno w OpenAI, jak i Anthropic, odszedł z Anthropic i publicznie skrytykował tempo wyścigu ku samodoskonalącej się superinteligencji. W rozmowie z BBC powiedział, że ludzie wewnątrz czołowych laboratoriów są „naprawdę przestraszeni” tempem postępu i jego konsekwencjami. 9 Jego odejście nadało publiczny wymiar lękom, które wcześniej mogły pozostawać wewnętrzną sprawą zespołów badawczych. 14

Skąd bierze się poczucie współodpowiedzialności

Dla badaczy bezpieczeństwa problem może być szczególnie obciążający, ponieważ nie obserwują ryzyka z zewnątrz. Ocena modeli, szkolenie ich lub udział w procesie wdrożenia sprawiają, że granica między wskazaniem zagrożenia a współudziałem w decyzji o dalszym rozwoju może wydawać się bardzo cienka.

Jeśli testy odbywają się pod presją czasu, a rywalizacja rynkowa trwa, rozpoznanie problemu nie musi oznaczać, że dana osoba ma możliwość zatrzymać publikację lub wdrożenie modelu. To może sprzyjać bezradności, wypaleniu i temu, co w psychologii pracy bywa określane jako uraz moralny — cierpieniu wynikającemu z działania wbrew własnej ocenie etycznej.

Czy spowolnienie rozwoju AI byłoby rozwiązaniem?

Szefowie części największych firm, w tym Dario Amodei z Anthropic, Sam Altman z OpenAI i Demis Hassabis z Google DeepMind, w różnym zakresie poparli ideę wolniejszego tempa rozwoju najbardziej zaawansowanej AI. 2 Wśród proponowanych mechanizmów pojawiają się niezależne oceny bezpieczeństwa, współpraca między firmami oraz zgodność działań z polityką publiczną. 2

Eksperci Stanford HAI podkreślali jednak, że szerokie spowolnienie rozwoju samych zdolności AI byłoby trudne do osiągnięcia. Za bardziej realne uznali wzmacnianie bezpieczeństwa, monitorowania, audytów ryzyka i niezależnych ocen prowadzonych przez państwo lub wykwalifikowane podmioty zewnętrzne. 3

Jest też zasadniczy problem z wiarygodnością takich apeli. Krytycy ostrzegają, że „zamrożenie” rozwoju AI projektowane lub egzekwowane przez obecnych liderów rynku mogłoby umocnić ich pozycję i utrudnić działanie mniejszym konkurentom. 11 Dlatego o rzeczywistym znaczeniu deklaracji przesądzałyby przede wszystkim sprawdzalne działania: opóźnianie wdrożeń, niezależne audyty, jasne progi bezpieczeństwa, ochrona sygnalistów oraz gotowość do zaakceptowania zewnętrznego nadzoru.

Automatyzacja badań zwiększa presję czasu

Nie ma dowodów, że AI osiągnęła już pełną zdolność do rekurencyjnego samodoskonalenia, czyli samodzielnego, powtarzalnego ulepszania własnych możliwości. 6 Obawy skupiają się raczej na częściowej automatyzacji pracy badawczej i inżynieryjnej: systemy mogą przyspieszać eksperymenty, pisanie kodu czy inne elementy rozwoju modeli.

Najnowsze badanie pokazało, że agenci AI potrafili samodzielnie wykonać znaczną część prac inżynieryjnych związanych z badaniami, ale nie osiągnęli istotnego postępu w rozwiązywaniu otwartych pytań naukowych. 5 To nie jest jeszcze scenariusz samonapędzającego się postępu, lecz wystarcza, by osoby odpowiedzialne za testowanie bezpieczeństwa obawiały się skrócenia cykli rozwoju.

Odejścia, zwolnienia i korzystanie ze wsparcia psychologicznego nie są więc dowodem, że zagłada ludzkości jest nieuchronna. Są natomiast sygnałem, że część osób najbliżej technologii ocenia połączenie rosnących możliwości, ryzyk podwójnego zastosowania, presji konkurencyjnej i ograniczonego zewnętrznego nadzoru jako psychicznie oraz etycznie nie do udźwignięcia.