Головна іронія

ASAT існує, щоб зменшити екзистенційні та катастрофічні ризики від AGI та, зрештою, від надрозумного штучного інтелекту . Однак внутрішні рекомендації команди прямо попереджають, що власним AI-фільтрам Google для найму довіряти не можна. Згідно з документом, який переглянуло Bloomberg, команда зазначає: «Наша система подання заявок має нетривіальну ймовірність того, що ваше CV буде відхилено помилково або надто довго надходитиме до нас» . Фактично, команда каже потенційним працівникам: не покладайтеся на те, що AI компанії компетентно вас оцінить.

Обхід AI самої компанії

Внутрішній документ із незвичним застереженням «БУДЬ ЛАСКА, НЕ ПОШИРЮЙТЕ ЦЕЙ ДОКУМЕНТ ШИРОКО» скеровує кандидатів на вакансії в ASAT заповнити конфіденційну внутрішню форму . Форма розроблена так, щоб заявки потрапляли безпосередньо до людей-рев’юерів, а не в автоматизований конвеєр перевірки CV . Bloomberg повідомляє, що мета форми — усунути ризик того, що заявки «можуть бути автоматично відхилені внутрішніми AI-системами компанії» .

Попередження про використання AI для написання заявок

В оголошеннях про вакансії в ASAT на форумі Alignment Forum зазначено: «Будь ласка, не використовуйте ШІ для написання вашої заявки; ми хочемо почути ваш голос» . Це створює багатошарову суперечність: команда не довіряє AI-системам Google для перевірки достатньо, щоб їх оминати, але також не довіряє кандидатам, які використовують AI-інструменти для написання відповідей — навіть попри те, що власна робота ASAT пов’язана з розробкою та наглядом за передовими AI-системами.

Ширший контекст упередженості AI в наймі

Епізод із ASAT не є поодиноким випадком. Низка досліджень і розслідувань задокументували постійні проблеми з інструментами найму на основі ШІ:

• Дослідження Стенфордського HAI (липень 2026 року) проаналізувало 4 мільйони заявок на роботу від понад 150 роботодавців і виявило, що інструменти найму на основі ШІ можуть призводити до расово неоднакових результатів у великих масштабах. Дослідники виявили, що 15% азійських кандидатів і 26% темношкірих кандидатів неодноразово відхилялися на різних посадах — це свідчить про системну упередженість .
• Аналіз Bloomberg показав, що GPT-3.5 від OpenAI при ранжуванні резюме 1000 разів систематично надавав перевагу іменам з одних демографічних груп над іншими до такої міри, що це не пройшло б контрольні показники, які використовуються для оцінки дискримінації при працевлаштуванні .
• Дослідження Мельбурнського університету показало, що програмне забезпечення для найму на основі ШІ може дискримінувати кандидатів у хіджабах, з іменами, які сприймаються як темношкірі, та осіб, які просять про пристосування для інвалідності .
• Аудит Управління уповноваженого з питань інформації Великої Британії (ICO) виявив, що деякі AI-інструменти для рекрутингу відфільтровують кандидатів за захищеними ознаками, такими як раса, стать і сексуальна орієнтація .

Google сам продає AI-інструменти для HR корпоративним клієнтам, обіцяючи швидшу та об’єктивнішу перевірку . Епізод з ASAT підриває це маркетингове повідомлення, неявно визнаючи, що власні фільтри компанії є помилковими.

Відповідь Google DeepMind

У DeepMind заперечили, що це свідчить про поломку ширшої системи найму. Представник компанії описав форму для обходу як просто «захід для підвищення ефективності» для посад із великою кількістю заявок . Однак мова самого внутрішнього документа — попередження про неправильну перевірку та заклик до таємниці — свідчить про те, що команда вважає проблему достатньо суттєвою, щоб виправдати обхідний шлях .

Підсумок

Ситуація виявила кризу довіри: команда, яку Google найняв для дослідження та запобігання невідповідності ШІ, не довіряє AI-системам, які Google використовує для перевірки власних майбутніх працівників. Цей дисонанс привернув широку увагу як реальний приклад того, як розробник ШІ неявно визнає обмеження та ризики тієї ж технології, яку він створює та продає. Як підсумував один аналіз: «команда, відповідальна за безпеку передового ШІ, не довіряє власному AI-роботодавця читати резюме» .

Головна іронія

ASAT існує, щоб зменшити екзистенційні та катастрофічні ризики від AGI та, зрештою, від надрозумного штучного інтелекту . Однак внутрішні рекомендації команди прямо попереджають, що власним AI-фільтрам Google для найму довіряти не можна. Згідно з документом, який переглянуло Bloomberg, команда зазначає: «Наша система подання заявок має нетривіальну ймовірність того, що ваше CV буде відхилено помилково або надто довго надходитиме до нас» . Фактично, команда каже потенційним працівникам: не покладайтеся на те, що AI компанії компетентно вас оцінить.

Обхід AI самої компанії

Внутрішній документ із незвичним застереженням «БУДЬ ЛАСКА, НЕ ПОШИРЮЙТЕ ЦЕЙ ДОКУМЕНТ ШИРОКО» скеровує кандидатів на вакансії в ASAT заповнити конфіденційну внутрішню форму . Форма розроблена так, щоб заявки потрапляли безпосередньо до людей-рев’юерів, а не в автоматизований конвеєр перевірки CV . Bloomberg повідомляє, що мета форми — усунути ризик того, що заявки «можуть бути автоматично відхилені внутрішніми AI-системами компанії» .

Попередження про використання AI для написання заявок

В оголошеннях про вакансії в ASAT на форумі Alignment Forum зазначено: «Будь ласка, не використовуйте ШІ для написання вашої заявки; ми хочемо почути ваш голос» . Це створює багатошарову суперечність: команда не довіряє AI-системам Google для перевірки достатньо, щоб їх оминати, але також не довіряє кандидатам, які використовують AI-інструменти для написання відповідей — навіть попри те, що власна робота ASAT пов’язана з розробкою та наглядом за передовими AI-системами.

Ширший контекст упередженості AI в наймі

Епізод із ASAT не є поодиноким випадком. Низка досліджень і розслідувань задокументували постійні проблеми з інструментами найму на основі ШІ:

• Дослідження Стенфордського HAI (липень 2026 року) проаналізувало 4 мільйони заявок на роботу від понад 150 роботодавців і виявило, що інструменти найму на основі ШІ можуть призводити до расово неоднакових результатів у великих масштабах. Дослідники виявили, що 15% азійських кандидатів і 26% темношкірих кандидатів неодноразово відхилялися на різних посадах — це свідчить про системну упередженість .
• Аналіз Bloomberg показав, що GPT-3.5 від OpenAI при ранжуванні резюме 1000 разів систематично надавав перевагу іменам з одних демографічних груп над іншими до такої міри, що це не пройшло б контрольні показники, які використовуються для оцінки дискримінації при працевлаштуванні .
• Дослідження Мельбурнського університету показало, що програмне забезпечення для найму на основі ШІ може дискримінувати кандидатів у хіджабах, з іменами, які сприймаються як темношкірі, та осіб, які просять про пристосування для інвалідності .
• Аудит Управління уповноваженого з питань інформації Великої Британії (ICO) виявив, що деякі AI-інструменти для рекрутингу відфільтровують кандидатів за захищеними ознаками, такими як раса, стать і сексуальна орієнтація .

Google сам продає AI-інструменти для HR корпоративним клієнтам, обіцяючи швидшу та об’єктивнішу перевірку . Епізод з ASAT підриває це маркетингове повідомлення, неявно визнаючи, що власні фільтри компанії є помилковими.

Відповідь Google DeepMind

У DeepMind заперечили, що це свідчить про поломку ширшої системи найму. Представник компанії описав форму для обходу як просто «захід для підвищення ефективності» для посад із великою кількістю заявок . Однак мова самого внутрішнього документа — попередження про неправильну перевірку та заклик до таємниці — свідчить про те, що команда вважає проблему достатньо суттєвою, щоб виправдати обхідний шлях .

Підсумок

Ситуація виявила кризу довіри: команда, яку Google найняв для дослідження та запобігання невідповідності ШІ, не довіряє AI-системам, які Google використовує для перевірки власних майбутніх працівників. Цей дисонанс привернув широку увагу як реальний приклад того, як розробник ШІ неявно визнає обмеження та ризики тієї ж технології, яку він створює та продає. Як підсумував один аналіз: «команда, відповідальна за безпеку передового ШІ, не довіряє власному AI-роботодавця читати резюме» .