Google переносить команду з відповідального ШІ з DeepMind: чому це викликає занепокоєння

Що саме зміниться

Google планує на початку вересня вивести приблизно 90-працівницьку команду AI Responsibility зі складу Google DeepMind і перевести її до корпоративного підрозділу Global Affairs. Йдеться про напрям, що працює на перетині політики, права, взаємодії з державними органами та оцінювання суспільних наслідків технологій. 53

Команда залишатиметься зосередженою на ризиках штучного інтелекту та його впливі на суспільство. Водночас вона більше не буде організаційно розташована всередині лабораторії, яка безпосередньо розробляє передові моделі, зокрема системи, що лежать в основі продуктів Gemini. 5

Які ризики досліджувала команда

До сфери її роботи належали як потенційно катастрофічні, так і більш повсякденні суспільні ризики від передових ШІ-систем. Серед них — можливе зловживання моделями у хімічній, біологічній, радіологічній та ядерній сферах, які англійською узагальнюють абревіатурою CBRN, а також психологічні наслідки тривалої взаємодії з чат-ботами. 5

Остання тема стосується, зокрема, ризику того, що вразливі користувачі можуть надмірно емоційно прив’язуватися до чат-ботів або отримувати від них небезпечне підтвердження шкідливих переконань. Наявність таких ризиків не означає, що кожна взаємодія з чат-ботом є шкідливою: йдеться про напрям досліджень і оцінювання можливих негативних сценаріїв.

Чому працівники непокояться

За даними публічних повідомлень, співробітники побоюються, що перехід із дослідницької лабораторії до корпоративної структури може послабити незалежність команди. Вона може опинитися далі від інженерів, які ухвалюють рішення щодо поведінки моделей, їхнього тестування та запуску. 5

Працівники також побоюються, що команді буде складніше наполягати на неприємних для компанії висновках або передавати керівництву сигнали про нові загрози. Це саме побоювання, описані в повідомленнях ізсередини організації, а не підтвердження того, що Google вже обмежив дослідження чи право команди висловлювати критику. 5

Які ресурси та повноваження збережуться

Публічно доступна інформація вказує, що після переведення команда має й надалі досліджувати ризики ШІ та його суспільний вплив. Проте наразі немає повного й обов’язкового опису її майбутніх умов роботи. Зокрема, неясно, яким буде її штат, доступ до нових моделей, бюджет, свобода публікації результатів і формальні повноваження для ескалації проблем. 5

Тому не можна впевнено сказати, які саме практичні запобіжники команда збереже. Водночас недостатньо доказів, щоб стверджувати, ніби переведення автоматично позбавляє її будь-якого формального права блокувати випуск моделей. 5

Чим займатимуться інші команди DeepMind

Інші підрозділи Google DeepMind і Google продовжують працювати над операційними та технічними запобіжниками. Серед таких напрямів — поведінка моделей, приватність, кібербезпека й технічна безпека систем. 67

У результаті межа між функціями стає помітнішою: технічні та продуктові обмеження залишаються ближчими до організації, що створює моделі, тоді як ширші питання впливу, управління, політики та взаємодії з регуляторами переходять до Global Affairs.

Як це пов’язано зі зміною керівництва DeepMind

Реорганізація команди з відповідального ШІ відбувається одночасно з масштабнішими змінами в Google DeepMind. Деміс Хассабіс передав щоденне операційне керівництво, став головою Google DeepMind і головним науковцем Alphabet. Операційна роль посилилася в Корая Кавукчуоглу, який отримав відповідальність за розробку моделей Gemini, дослідження передового ШІ, а також команди застосунку Gemini та розробників. 1346

Reuters також повідомляло, що частину AI-команд переміщують ближче до корпоративної структури Google, оскільки керівництво прагне пришвидшити розвиток Gemini. Ці зміни відбуваються на тлі помітних звільнень високопоставлених фахівців і конкуренції з іншими провідними розробниками ШІ. 34

Що це означає для безпеки ШІ

Переведення команди саме по собі не доводить, що Google відмовляється від роботи з безпеки або відповідального розвитку ШІ. Воно радше показує складну управлінську дилему, з якою стикаються великі AI-лабораторії.

З одного боку, фахівці з безпеки мають бути достатньо близькими до розробників, щоб впливати на дизайн і тестування передових моделей. З іншого — компанії дедалі частіше об’єднують питання безпеки з юридичними, політичними та регуляторними функціями, водночас намагаючись якнайшвидше випускати нові продукти. 53

Така модель може забезпечити послідовнішу політику на рівні всієї компанії та полегшити роботу з регуляторами. Але вона здатна послабити — принаймні у сприйнятті, а потенційно й на практиці — незалежність внутрішніх критиків. Щоб цього не сталося, компанії потрібно чітко гарантувати доступ команди до моделей, право публікувати результати та зрозумілий механізм ескалації проблем або перегляду рішення про реліз. 53