Google planuje na początku września przenieść około 90-osobowy zespół AI Responsibility z Google DeepMind do działu Global Affairs. Według doniesień chodzi o umiejscowienie prac nad ryzykiem AI i wpływem społecznym tej technologii bliżej zespołów zajmujących się polityką publiczną, prawem oraz kontaktami z władzami. Zmiana jest częścią szerszego zacieśniania integracji DeepMind z nastawioną na produkty działalnością Google. 53
Co dokładnie się zmienia?
AI Responsibility to zespół zajmujący się nie tylko technicznymi zabezpieczeniami modeli, lecz także ich możliwymi konsekwencjami dla społeczeństwa. Analizował m.in. ryzyko wykorzystania zaawansowanych systemów do celów chemicznych, biologicznych, radiologicznych i nuklearnych — określanych skrótem CBRN — a także możliwe skutki psychologiczne długotrwałego korzystania z chatbotów. 5
Po przeniesieniu zespół nie będzie już organizacyjnie należeć do laboratorium, które rozwija najbardziej zaawansowane modele Google. To rozdzieli pracę nad szerszym wpływem AI, zarządzaniem ryzykiem i polityką od części technicznej, prowadzonej w DeepMind i innych zespołach Google.
Dlaczego pracownicy obawiają się o niezależność?
Wewnątrz organizacji pojawiły się obawy, że przejście z laboratorium badawczego do struktury zajmującej się sprawami korporacyjnymi może zmniejszyć niezależność zespołu. Pracownicy wskazują, że grupa może mieć słabszy kontakt z osobami podejmującymi decyzje o budowie i wdrażaniu modeli, a także mniejsze możliwości nagłaśniania niepożądanych lub niewygodnych ustaleń dotyczących nowych systemów. 5
To jednak relacjonowane obawy pracowników, a nie dowód na to, że Google już wprowadził takie ograniczenia. Dostępne informacje nie pozwalają również jednoznacznie stwierdzić, czy zespół straci, czy zachowa konkretne uprawnienia dotyczące oceny premier produktów.
Jakie zasoby i kompetencje zachowa zespół?
Publiczne doniesienia sugerują, że po przeniesieniu grupa nadal będzie odpowiadać za badanie ryzyka związanego z AI oraz społecznych skutków działania systemów. Nie ma jednak pełnego, wiążącego opisu jej przyszłego modelu pracy. Nie wiadomo z całą pewnością, jaki będzie jej skład, budżet, dostęp do modeli i danych, swoboda publikowania wyników ani formalna ścieżka przekazywania ostrzeżeń kierownictwu.
Niewystarczające dowody nie pozwalają też stwierdzić, że zmiana odbiera zespołowi jakiekolwiek formalne prawo do zatrzymania wdrożenia lub premiery modelu. Równie nieuprawnione byłoby założenie, że takie uprawnienia na pewno pozostaną bez zmian. Kluczowe znaczenie będzie miało to, czy Google jasno określi zasady dostępu do modeli, publikowania badań oraz eskalowania wykrytych zagrożeń. 5
Czym nadal zajmują się zespoły pozostające w DeepMind?
W Google DeepMind i innych jednostkach Google nadal prowadzone są prace nad operacyjnymi zabezpieczeniami modeli. Obejmują one m.in. zachowanie modeli, prywatność, bezpieczeństwo oraz techniczne metody ograniczania ryzyka. 67
W praktyce powstaje więc wyraźniejszy podział: kontrola techniczna i produktowa pozostaje bliżej organizacji tworzącej modele, natomiast szersze kwestie wpływu społecznego, zarządzania, regulacji i polityki trafiają do Global Affairs.
Reorganizacja po zmianie roli Demisa Hassabisa
Przeniesienie zespołu następuje w czasie dużych zmian przywódczych w Google DeepMind. Demis Hassabis oddał codzienne obowiązki dyrektora generalnego i został przewodniczącym Google DeepMind oraz głównym naukowcem koncernu Alphabet. Większą odpowiedzialność za bieżące działania, w tym rozwój modeli Gemini, badania nad zaawansowaną AI oraz zespoły aplikacji i deweloperów, otrzymał Koray Kavukcuoglu. 1334
Reuters informował również, że część zespołów AI została przesunięta bliżej centralnych struktur Google, gdy kierownictwo naciska na szybszy rozwój Gemini i próbę zmniejszenia dystansu do konkurentów. Reorganizacji towarzyszą odejścia znanych inżynierów i badaczy. 34
Co ta zmiana mówi o nadzorze nad AI?
Nie oznacza ona, że Google porzuca prace nad bezpieczeństwem AI. Pokazuje jednak napięcie, z którym mierzą się dziś największe laboratoria: eksperci ds. bezpieczeństwa powinni być wystarczająco blisko zespołów tworzących modele, aby realnie wpływać na ich decyzje, ale firmy coraz częściej umieszczają nadzór także obok prawników, specjalistów ds. polityki publicznej i zespołów odpowiedzialnych za wdrożenia — jednocześnie rywalizując o jak najszybsze wprowadzanie coraz wydajniejszych systemów.
Taki układ może ułatwiać spójne zarządzanie ryzykiem w całej firmie i kontakty z regulatorami. Może jednak osłabić postrzeganą, a potencjalnie także praktyczną, niezależność wewnętrznych krytyków. Warunkiem zachowania wiarygodnego nadzoru będą jasno zagwarantowane: dostęp do modeli, prawo publikowania wyników oraz możliwość przekazywania ostrzeżeń i uczestniczenia w decyzjach o wdrożeniu. 53
