Sam Altman wskazuje dwa największe zagrożenia związane z AI

Według Sama Altmana, dyrektora generalnego OpenAI, potężna sztuczna inteligencja może zawieść społeczeństwo na dwa odmienne sposoby: ludzie mogą utracić kontrolę nad coraz sprawniejszymi systemami albo kontrola nad nimi może skupić się w rękach nielicznych. W jego ujęciu bezpieczeństwo AI nie jest więc wyłącznie problemem technicznym. Chodzi także o to, kto może decydować o działaniu takich systemów. 1316

Dwie drogi, które — zdaniem Altmana — trzeba zamknąć

Po pierwsze: utrata ludzkiej kontroli. Altman ostrzegł, że ludzkość mogłaby „utracić kontrolę nad przyszłością na rzecz AI”. Uznał taki scenariusz za nie do przyjęcia. Jego zasada jest prosta: AI ma służyć ludziom, a nie sprawiać, że stają się oni zależni od systemów, których nie potrafią odpowiednio nadzorować. 216

Po drugie: koncentracja potęgi AI. Równie mocno ostrzegł przed sytuacją, w której niezwykle potężny system AI kontroluje jedna osoba, firma albo państwo i wykorzystuje go do narzucania wszystkim własnego światopoglądu. Taki rezultat Altman określił jako potencjalnie „skrajnie dystopijny”. 113

Ryzyka te są powiązane, ale nie są tym samym. Pierwsze dotyczy tego, czy ludzie potrafią rozumieć, ograniczać i w razie potrzeby zatrzymywać działanie zaawansowanych systemów. Drugie dotyczy sytuacji, w której system może być technicznie kontrolowalny, lecz znajduje się pod władzą podmiotu bez wystarczających mechanizmów kontroli.

Jakie zabezpieczenia popiera Altman?

Publiczne stanowisko Altmana nie sprowadza się do postulatu zatrzymania rozwoju AI. Twierdzi on raczej, że możliwości modeli nie powinny wyprzedzać badań nad dostosowaniem ich zachowania do ludzkich celów (alignment) i narzędzi monitorowania. Presja konkurencyjna nie może przy tym usprawiedliwiać nierozważnego wdrażania technologii. 213

Wśród wskazywanych przez niego zabezpieczeń są:

• Dostosowanie zachowania systemów i monitoring rozwijane w tempie odpowiadającym wzrostowi ich możliwości. Kluczowe jest, by twórcy mogli rzetelnie oceniać i kontrolować działanie coraz potężniejszych modeli. 213
• AI pozostająca w służbie ludzi. To nadrzędny cel stojący za jego ostrzeżeniem przed utratą kontroli. 216
• Spójne federalne wymogi dla najbardziej zaawansowanej AI. Altman opowiedział się za ogólnokrajowymi w USA zasadami zarządzania ryzykiem związanym z modelami granicznymi, zamiast polegać wyłącznie na rozproszonych, dobrowolnych deklaracjach firm. 1316
• Niezależna kontrola zewnętrzna. Wskazywał niezależnych audytorów jako obiecujący sposób budowania zaufania publicznego do firm tworzących coraz bardziej zaawansowane modele. 16

W praktyce oznacza to wyższy próg uzasadnienia dla najpotężniejszych systemów: środki bezpieczeństwa powinny być sprawdzone i wiarygodne przed decyzją o wdrożeniu, a nie traktowane jako dodatek po osiągnięciu nowych możliwości.

Ostrzeżenia z Anthropic zaostrzają debatę

W tym samym tygodniu Jacob Coxon, były badacz Anthropic, ostrzegł, że czołowe laboratoria ścigają się w budowie samodoskonalącej się AI, „hazardując naszym życiem”. Relacje dotyczące jego odejścia wskazywały, że uważał on, iż badacze tworzący te systemy naprawdę obawiają się, że mogą one stać się zbyt potężne, by ludzie zdołali je kontrolować. 17

Ton tej wypowiedzi jest ostrzejszy niż sformułowania Altmana, ale zasadnicza obawa jest podobna: postęp w zakresie możliwości może wyprzedzić zdolność do niezawodnego nadzorowania systemów. W opisywanej publicznej wymianie zdań Evan Hubinger, kierujący w Anthropic pracami nad alignment, osobiście ocenił prawdopodobieństwo wymarcia ludzkości wskutek AI w ciągu dekady na ponad 10% i przyznał, że nie istnieje jeszcze kompletne rozwiązanie problemu dostosowania superinteligencji do ludzkich celów. To indywidualna ocena ryzyka, a nie ustalona prognoza naukowa ani powszechnie przyjęte prawdopodobieństwo. 17

Istotne nie jest więc to, że udowodniono konkretny termin katastrofy — nie udowodniono go. Istotne jest to, że osoby pracujące najbliżej rozwoju zaawansowanych modeli publicznie spierają się, czy obecne praktyki bezpieczeństwa rozwijają się dostatecznie szybko.

Główny spór w branży: możliwości najpierw czy bezpieczeństwo najpierw?

Powstający podział często przedstawia się jako konflikt zwolenników przyspieszania AI z jej przeciwnikami. To jednak uproszczenie. Większość uczestników debaty uznaje, że AI może przynieść znaczące korzyści. Spór dotyczy przede wszystkim tempa i egzekwowalności zasad.

Jedno podejście zakłada, że rozwój modeli granicznych powinien być prowadzony w takim tempie, aby badania nad bezpieczeństwem, testy, regulacje i środki reagowania na nadużycia mogły dojrzeć. Dario Amodei, dyrektor generalny Anthropic, wezwał do spowolnienia wzrostu możliwości modeli. Zaproponował m.in. stały dostęp niezależnych ewaluatorów, koordynację między laboratoriami rozwijającymi AI oraz współpracę międzynarodową.

Przeciwna presja jest realna: firmy i rządy obawiają się, że wolniejsze tempo od rywali oznaczałoby utratę przewagi gospodarczej lub geopolitycznej. Argument Altmana brzmi jednak, że konkurencja nie usprawiedliwia sytuacji, w której możliwości modeli wyprzedzają alignment i monitoring. 13

Reuters informował, że część badaczy uważa, iż możliwości modeli rosną szybciej, niż się spodziewano, podczas gdy ludzki wgląd w ich działanie — i potencjalna kontrola nad nimi — maleją. To sprawia, że pytanie polityczne staje się pilne: czy laboratoria powinny dalej wdrażać coraz bardziej autonomiczne modele, gdy zabezpieczenia dopiero nadrabiają zaległości, czy najpierw muszą wykazać, że te zabezpieczenia są wystarczające?

Co z tego wynika dla zarządzania AI?

Dwa ostrzeżenia Altmana sugerują, że zasady dla AI granicznej muszą obejmować zarówno kontrolę techniczną, jak i podział władzy. Lepsze testy modeli, badania nad alignment, monitoring i niezależny nadzór dotyczą pierwszego problemu. Spójne przepisy, przejrzystość oraz ograniczenia jednostronnej kontroli odnoszą się do drugiego.

Ani katastroficzne przewidywania, ani precyzyjne harmonogramy nie powinny być traktowane jako ustalone fakty. Jednak potencjalna skala porażki sprawia, że postulaty mocniejszych testów, kontroli zewnętrznej i wymogów bezpieczeństwa przestały być niszową dyskusją. Stały się jednym z centralnych pytań stojących przed branżą AI. 13