«Живой человек это прочитает»: команда безопасности ИИ Google DeepMind просит соискателей обходить собственные алгоритмы компании

Главная ирония

ASAT была создана для снижения экзистенциальных и катастрофических рисков от AGI (общего ИИ) и, в перспективе, сверхинтеллекта . Однако внутренние инструкции команды прямо предупреждают, что собственным ИИ-фильтрам Google при найме доверять нельзя. Согласно документу, с которым ознакомилось агентство Bloomberg, в нем говорится: «У нас есть система обработки заявок, с нетривиальной вероятностью ваше резюме будет отсеяно неверно или слишком долго до нас доходить» . По сути, команда говорит потенциальным сотрудникам: не рассчитывайте, что ИИ компании сможет вас адекватно оценить.

Как обходят собственный ИИ компании

Внутренний документ, содержащий необычное предупреждение «ПОЖАЛУЙСТА, НЕ РАСПРОСТРАНЯЙТЕ ЭТОТ ДОКУМЕНТ ШИРОКО», предлагает кандидатам на роли в ASAT заполнить конфиденциальную внутреннюю форму . Эта форма предназначена для того, чтобы заявки гарантированно попали к живым рекрутерам, минуя автоматизированный конвейер отбора резюме Google . Как сообщает Bloomberg, цель формы — устранить риск того, что заявки «могут быть автоматически отсеяны внутренними ИИ-системами компании» .

Предупреждение против использования ИИ в заявках

В объявлениях о вакансиях ASAT на платформе Alignment Forum указано: «Пожалуйста, не используйте ИИ для написания заявки; мы хотим услышать ваш голос» . Это создает многослойное противоречие: команда не доверяет системам ИИ Google настолько, что обходит их, но в то же время не доверяет кандидатам, использующим ИИ-чат-боты для подготовки ответов — хотя сама ASAT занимается разработкой и надзором за продвинутыми системами ИИ.

Широкий контекст: предвзятость ИИ при найме

Случай с ASAT — не единичный. Серия исследований и расследований документирует системные проблемы с ИИ-инструментами для найма:

• Исследование Стэнфордского HAI (июль 2026 года) проанализировало 4 миллиона заявок от более чем 150 работодателей и выявило, что ИИ-инструменты могут массово порождать результаты с расовой предвзятостью. Исследователи обнаружили, что 15% азиатских и 26% чернокожих соискателей систематически отклонялись на множестве позиций — признак системной дискриминации .
• Анализ Bloomberg показал, что OpenAI GPT-3.5 при 1000-кратном ранжировании резюме систематически отдавал предпочтение кандидатам с определенными демографическими признаками, что нарушило бы стандартные критерии оценки дискриминации при найме .
• Исследование Мельбурнского университета выявило, что ИИ-софт для найма может дискриминировать кандидатов в хиджабах, с «черными» именами и тех, кто просит об условиях для инвалидов .
• Аудит британского Управления комиссара по информации (ICO) показал, что некоторые ИИ-инструменты для рекрутинга отфильтровывают кандидатов по защищенным признакам: расе, полу и сексуальной ориентации .

Google сам продает корпоративным клиентам ИИ-инструменты для HR, обещая более быстрый и объективный отбор . История с ASAT подрывает это маркетинговое сообщение, неявно признавая, что собственные фильтры компании могут быть ошибочными.

Реакция Google DeepMind

В DeepMind оспорили характеристику, что их система найма в целом неработоспособна. Представитель компании назвал форму для обхода фильтров просто «мерой для повышения эффективности» для позиций с большим числом заявок . Однако язык самого внутреннего документа — с предупреждением о неверном отсеве и призывом к секретности — указывает на то, что команда считает проблему достаточно серьезной, чтобы требовать обходного пути .

Суть

Эта ситуация обнажает кризис доверия: подразделение, которое Google нанял для изучения и предотвращения сбоев в работе ИИ, не доверяет системам ИИ, которые Google использует для отбора собственных будущих сотрудников. Этот диссонанс привлек широкое внимание как реальный пример того, как разработчик ИИ неявно признает ограничения и риски той самой технологии, которую он создает и продает. Как резюмировал один из аналитиков: «команда, отвечающая за безопасность продвинутого ИИ, не доверяет собственному ИИ своего работодателя читать резюме» .