Google přesune zhruba 90členný tým pro odpovědnost AI do Global Affairs

Google plánuje na začátku září přesunout zhruba 90členný tým pro odpovědnost AI z Google DeepMind do své divize Global Affairs. Ta sdružuje funkce spojené s veřejnou politikou, právem a komunikací s vládami. Podle dostupných zpráv má změna přiblížit výzkum rizik a společenských dopadů AI právě těmto oblastem, zatímco se DeepMind stále těsněji začleňuje do produktově zaměřeného vývoje umělé inteligence v Googlu. 53

Co tým zkoumá

Tým se zabývá riziky takzvaných frontier modelů, tedy nejpokročilejších AI systémů na hranici současných schopností. Patří mezi ně možné zneužití pro chemické, biologické, radiologické a jaderné hrozby — souhrnně označované zkratkou CBRN — i širší společenské dopady.

Výzkumníci se věnovali také možným psychologickým škodám spojeným s dlouhodobými interakcemi s chatboty. Jde například o situace, kdy může intenzivní používání konverzační AI ovlivnit duševní pohodu nebo zhoršit potíže u zranitelných uživatelů. 5

Po přesunu už tým nebude organizačně součástí laboratoře, která vyvíjí nejpokročilejší modely Googlu.

Proč mají zaměstnanci obavy

Podle interních obav citovaných v médiích může přesun z výzkumné laboratoře do korporátní divize oslabit nezávislost týmu. Zaměstnanci se bojí především toho, že se jeho členové vzdálí rozhodnutím o vývoji modelů a že pro ně bude obtížnější prosazovat nebo eskalovat nepříjemná zjištění o nových systémech. 5

To jsou však obavy lidí uvnitř organizace, nikoli důkaz, že Google už týmu taková omezení uložil. Z veřejně dostupných informací není jasné, jak přesně se po změně upraví jeho přístup k modelům, rozpočet, publikační svoboda nebo možnost předávat varování vedení.

Stejně tak nelze s dostatečnou jistotou říci, zda tým zachová všechny dosavadní praktické ochranné mechanismy. Dostupné podklady nepotvrzují ani to, že by přesun automaticky znamenal ztrátu jakékoli formální pravomoci zablokovat vydání modelu. 5

Které bezpečnostní funkce zůstávají v DeepMind

Přesun neznamená, že by Google DeepMind přestal řešit bezpečnost AI. Jiné týmy v DeepMind a Googlu dál pracují na provozních a technických pojistkách — například na chování modelů, ochraně soukromí, zabezpečení a technické bezpečnosti. 67

Reorganizace ale vytváří zřetelnější hranici mezi dvěma oblastmi:

• technická a produktová bezpečnost zůstává blízko vývoje modelů;
• širší dopady, správa AI a veřejná politika se přesouvají pod Global Affairs.

Právě tato hranice bude důležitá v praxi. Bezpečnostní zjištění mohou mít největší vliv tehdy, když se k vývojářům dostanou včas a jejich autoři mají jasnou možnost upozornit na problém i tehdy, když se jejich závěry nehodí do obchodního nebo produktového plánu.

Změna přichází s širší reorganizací Googlu

Přesun týmu se odehrává současně s významnou změnou vedení. Demis Hassabis se vzdal každodenního řízení Google DeepMind a stal se předsedou této jednotky a hlavním vědeckým pracovníkem Alphabetu, mateřské společnosti Googlu. Větší provozní pravomoci získal Koray Kavukcuoglu, dosavadní technologický ředitel a hlavní architekt AI. 1334

Reuters zároveň informoval, že Alphabet přesouvá některé AI týmy směrem do centrálního Googlu. Vedení firmy tlačí na rychlejší vývoj modelů Gemini, protože se snaží zmenšit náskok konkurentů, a reorganizaci doprovodily také odchody několika významných pracovníků. 34

Co změna vypovídá o řízení AI

Nejde o důkaz, že Google bezpečnostní práci opouští. Ukazuje však na zásadní napětí, kterému čelí všechny velké AI laboratoře: bezpečnostní odborníci musí být dostatečně blízko vývoji, aby mohli ovlivnit podobu pokročilých modelů, firmy je ale zároveň stále častěji začleňují do struktur spojených s právem, regulací a nasazováním produktů — a současně soupeří o co nejrychlejší uvedení nových systémů na trh. 53

Přesun pod Global Affairs může přinést jednotnější firemní postupy a lepší koordinaci s regulátory. Zároveň může oslabit vnímanou, a potenciálně i skutečnou, nezávislost interních kritiků. Rozhodující proto bude, zda tým zachová přístup k modelům, možnost zveřejňovat výsledky a jasně definovanou pravomoc eskalovat rizika nebo se podílet na rozhodování o vydání modelů. 53