Shane Legg ostrzega: zabezpieczenia AI muszą nadążać za rozwojem AGI

Shane Legg, współzałożyciel Google DeepMind, przekazuje prostą przestrogę: postęp możliwości sztucznej inteligencji nie powinien wyprzedzać zabezpieczeń umożliwiających nadzór i kontrolę nad coraz potężniejszymi systemami. Ostrzeżenie padło przy okazji uruchomienia DeepMind Institute (DMI) — nowej platformy poświęconej wdrażaniu i konsekwencjom ogólnej sztucznej inteligencji, czyli AGI. 141

Bezpieczeństwo musi dotrzymać kroku możliwościom AI

Według Legga szybko rozwijająca się AI nie może wyprzedzać mechanizmów bezpieczeństwa. Nie chodzi wyłącznie o to, że modele stają się sprawniejsze. Kluczowe jest pytanie, czy równie szybko rozwijają się narzędzia nadzoru, monitorowania, zarządzania i kontroli, które pozwalają utrzymać takie systemy pod kontrolą. 1

Z tego powodu zakres działania instytutu nie ogranicza się do badań technicznych. DMI ma wspierać interdyscyplinarne badania, współpracę i debatę nad najważniejszymi technicznymi oraz społecznymi pytaniami ery AGI — w tym nad tym, jak bezpiecznie budować i regulować systemy AGI oraz społeczności agentów, które mogą one tworzyć. 16

Czym jest DeepMind Institute

DeepMind Institute to platforma publikacyjna i forum dyskusji, a nie instytucja zastępująca podstawowe badania AI prowadzone przez DeepMind. Ma gromadzić głosy badaczy z Google DeepMind i szerszej społeczności naukowej na temat tego, jak coraz bardziej zaawansowaną AI należy tworzyć, regulować, wdrażać i wykorzystywać. 3642

Agenda obejmuje naukę, edukację, społeczeństwo, politykę publiczną, filozofię, ekonomię, bezpieczeństwo i ludzki rozwój. W praktyce oznacza to rozmowę zarówno o ograniczaniu poważnych zagrożeń, jak i o tym, jakie instytucje, zasady oraz cele społeczne mogą wymagać dostosowania, jeśli AGI zostanie szeroko wdrożona. 1636

Wolniejsze wdrażanie modeli granicznych? „Warto rozważyć”

Legg odniósł się też do propozycji Dario Amodeiego, dyrektora generalnego Anthropic. Amodei sugerował, by spowolnić — lecz nie wstrzymywać — udostępnianie modeli AI z czołówki możliwości technologicznych. Legg określił ten kierunek jako „interesujący” i „wart rozważenia”. 2

Nie jest to zapowiedź formalnej polityki DeepMind. Pokazuje jednak, że Legg traktuje ostrożniejsze tempo wdrożeń jako poważną opcję w sporze o to, jak zsynchronizować udostępnianie zaawansowanych modeli z gotowością odpowiednich zabezpieczeń. 2

Dlaczego Legg uważa, że na ogłoszenie AGI jest za wcześnie

Legg stwierdził, że mimo niedawnych deklaracji przedstawicieli Nvidii i OpenAI jest zbyt wcześnie, by uznać, że AGI już osiągnięto. Dostępne relacje nie przedstawiają pełnego, szczegółowego uzasadnienia każdego wskazywanego przez niego braku możliwości obecnych modeli. Najostrożniejszy wniosek jest więc taki, że według Legga dzisiejsze systemy nie przekroczyły jeszcze progu AGI przyjętego przez DeepMind. 4

Google DeepMind opisuje AGI jako system mający zdolności poznawcze ludzkiego mózgu. To standard znacznie szerszy niż bardzo dobre wyniki w pojedynczych zadaniach czy na wybranych testach porównawczych. 13

Jednocześnie Legg pozostaje „spokojny” o swoją wieloletnią prognozę: szacuje na 50% prawdopodobieństwo osiągnięcia „minimalnej” AGI do 2028 roku. To prognoza, a nie potwierdzony harmonogram. 210

Co analizują pierwsze eseje DMI

Kolekcja startowa obejmuje tekst wprowadzający oraz kilka esejów merytorycznych. Trzy najważniejsze wczesne tematy pokazują, że instytut patrzy szerzej niż tylko na bezpieczeństwo techniczne:

1. Przejrzystość rozumowania — Rohin Shah i Anca Dragan argumentują za zachowaniem interpretowalnego rozumowania, które ludzie mogliby wykorzystać do monitorowania modeli pod kątem oszustwa lub ukrytego działania na rzecz własnych celów. 11
2. Polityka gospodarcza wobec AGI — esej analizuje 11 możliwych polityk odpowiadających na potencjalne zakłócenia gospodarcze wywołane przez coraz bardziej zaawansowaną i powszechną AI. Kryteria obejmują m.in. dobrobyt, odporność, sprawczość i stabilność gospodarczą. 39
3. Zasady nowego utopizmu — tekst rozważa, co może oznaczać ludzki rozwój w społeczeństwie kształtowanym przez AGI, zarazem przestrzegając przed traktowaniem „utopii” jako obietnicy doskonałości. 37

Instytut wymienia również czwarty esej merytoryczny: „A framework for frontier AI and the dawning of a new age”, obok wprowadzenia i trzech tematów opisanych powyżej. 4138

Najważniejszy wniosek

Stanowisko Legga łączy pilność z powściągliwością. Nie uznaje on AGI za osiągniętą, ale nadal przypisuje znaczące, 50-procentowe prawdopodobieństwo pojawieniu się „minimalnej” AGI do 2028 roku. Jego ostrzeżenie nie dotyczy zatem jednej daty, lecz zasady zarządzania technologią: jeśli możliwości AI przyspieszają, równie szybko muszą rozwijać się sposoby jej rozumienia, nadzorowania i kształtowania jej wdrażania. 1216