Команду Google по ответственному ИИ переводят из DeepMind в Global Affairs

Что именно меняется

Google планирует в начале сентября вывести примерно 90 сотрудников команды AI Responsibility из состава Google DeepMind и передать их в подразделение Global Affairs. По данным публикаций, логика этого шага — приблизить работу с рисками ИИ и его общественными последствиями к функциям, связанным с государственной политикой, юридическими вопросами и взаимодействием с регуляторами. Это происходит в момент, когда Google теснее интегрирует DeepMind в ориентированную на продукты AI-структуру компании. 53

Команда исследовала широкий спектр рисков передовых, или frontier, моделей. Среди них — возможное злоупотребление ИИ в химической, биологической, радиологической и ядерной сферах (CBRN), а также потенциальные психологические последствия длительного общения с чат-ботами. После перевода специалисты больше не будут формально находиться внутри лаборатории, которая разрабатывает такие модели. 5

Почему сотрудники видят в этом угрозу независимости

Главная претензия связана не с самим фактом реорганизации, а с тем, кому теперь будет подчиняться команда и насколько близко она останется к процессу разработки моделей. Сотрудники опасаются, что переход из исследовательской лаборатории в корпоративно-политическое подразделение может:

• ослабить независимость команды;
• отдалить ее от решений о создании и выпуске новых моделей;
• усложнить проведение исследований, которые противоречат коммерческим приоритетам;
• затруднить передачу руководству неудобных выводов о безопасности продуктов.

Это опасения, о которых сообщалось внутри организации, а не доказательство того, что Google уже ограничил команде исследования или возможность поднимать проблемы. 5

Что команда сохранит — и чего пока нельзя утверждать

Публичные сообщения указывают, что после перехода команда должна продолжить заниматься рисками ИИ и его воздействием на общество. Но доступные данные не дают полного и обязательного описания ее будущих условий работы. В частности, неизвестно, как будут устроены:

• численность и состав команды;
• доступ к внутренним моделям и данным;
• право публиковать результаты исследований;
• бюджет;
• полномочия по эскалации выявленных рисков;
• участие в процедурах проверки решений о выпуске моделей.

Поэтому нельзя уверенно сказать, какие именно практические механизмы контроля сохранятся. Также недостаточно данных, чтобы утверждать, будто перевод автоматически лишает команду формального права блокировать релиз: наличие или отсутствие такого полномочия в новых условиях публично не подтверждено. 5

Какая работа остается внутри DeepMind

Перевод AI Responsibility не означает, что вся работа по безопасности покидает DeepMind. Другие подразделения Google и DeepMind продолжают заниматься операционными и техническими мерами защиты — поведением моделей, приватностью, кибербезопасностью и технической безопасностью. 67

В результате граница между направлениями станет заметнее: технические и продуктовые ограничения останутся ближе к разработчикам, а исследования общественных последствий, вопросы управления и взаимодействие с политическими и регуляторными структурами будут в большей степени сосредоточены в Global Affairs. Такая модель способна улучшить координацию с остальной корпорацией и государственными органами, но одновременно может усилить сомнения в независимости внутренних критиков.

Как перестройка связана с уходом Хассабиса

Реорганизация команды по ответственному ИИ совпала с более масштабными изменениями в руководстве Google DeepMind. Демис Хассабис отказался от повседневного управления лабораторией и стал ее председателем, а также главным научным сотрудником материнской компании Alphabet. Операционные полномочия получил Корай Кавукчуоглу, ранее занимавший должность технического директора DeepMind. 1346

По данным Reuters, Google также переводит часть AI-команд ближе к корпоративной структуре Alphabet, поскольку руководство стремится ускорить разработку Gemini и конкурировать с другими разработчиками передовых моделей. Перестройка проходит на фоне заметных уходов старших инженеров и исследователей. 34

Что это говорит о будущем контроля ИИ

Из этой перестройки не следует, что Google отказался от работы по безопасности. Скорее, она показывает центральную дилемму крупных AI-лабораторий: эксперты по безопасности должны находиться достаточно близко к разработчикам, чтобы влиять на устройство передовых моделей, но компании одновременно стремятся объединять функции безопасности с юридической, политической и коммерческой инфраструктурой — и быстрее выпускать новые продукты. 53

Корпоративная централизация может сделать правила более единообразными и упростить взаимодействие с регуляторами. Но доверие к такой системе будет зависеть от конкретных гарантий: сохранит ли команда доступ к моделям, сможет ли публиковать неудобные результаты и будет ли у нее четкий канал для обязательного рассмотрения рисков до выпуска продукта. Без таких механизмов перенос ответственности из исследовательской лаборатории в корпоративное подразделение может ослабить не обязательно саму работу по безопасности, но ее независимость — как в глазах сотрудников, так и на практике.