« Un vrai humain lira ces candidatures » : l'équipe sécurité de Google DeepMind avertit les postulants que ses propres filtres IA sont peu fiables

Le cœur de l'ironie

L'ASAT existe pour réduire les risques existentiels et catastrophiques liés à l'IA générale, et potentiellement à la super-intelligence . Pourtant, les consignes internes de l'équipe préviennent explicitement que les filtres d'embauche par IA de Google ne sont pas dignes de confiance. Selon un document consulté par Bloomberg, l'équipe déclare : « Notre système de candidature a une probabilité non négligeable que votre CV soit incorrectement écarté ou mette trop de temps à nous parvenir » . En substance, l'équipe dit aux futurs employés : ne comptez pas sur l'IA de l'entreprise pour vous évaluer correctement.

Contourner l'IA maison

Le document interne, qui porte la mention inhabituelle « NE PARTAGEZ PAS CE DOCUMENT LARGEMENT », dirige les candidats aux postes de l'ASAT vers un formulaire de soumission interne confidentiel . Ce formulaire est conçu pour garantir que les candidatures atterrissent directement devant des examinateurs humains, sans passer par le pipeline automatisé de tri de CV de Google . Bloomberg rapporte que le but du formulaire est d'éliminer le risque que les candidatures « soient automatiquement écartées par les systèmes d'IA internes de l'entreprise » .

Mise en garde contre les candidatures rédigées par IA

Les offres d'emploi de l'ASAT sur l'Alignment Forum précisent : « Veuillez ne pas utiliser l'IA pour rédiger votre candidature ; nous voulons entendre votre voix » . Cela crée une contradiction à plusieurs niveaux : l'équipe se méfie suffisamment des systèmes de tri de Google pour les contourner, mais se méfie aussi de l'utilisation par les candidats d'outils d'IA conversationnelle pour rédiger leurs réponses – et ce, alors même que le travail de l'ASAT consiste à développer et superviser des systèmes d'IA avancés.

Contexte plus large : les biais des IA de recrutement sous pression

L'épisode de l'ASAT n'est pas un cas isolé. Une série d'études et d'enquêtes ont documenté des problèmes persistants avec les outils de recrutement basés sur l'IA :

• Une étude de l'Institut HAI de Stanford en juillet 2026 a analysé 4 millions de candidatures auprès de plus de 150 employeurs et a constaté que les outils d'IA de recrutement peuvent produire des résultats racialement disparates à grande échelle. Les chercheurs ont découvert que 15 % des candidats asiatiques et 26 % des candidats noirs étaient systématiquement écartés de plusieurs postes – un schéma suggérant un biais systémique .
• Une analyse de Bloomberg a montré que GPT-3.5 d'OpenAI, lorsqu'on lui demandait de classer des CV 1 000 fois, favorisait systématiquement les noms de certaines catégories démographiques par rapport à d'autres, à un niveau qui échouerait aux critères utilisés pour évaluer la discrimination à l'emploi .
• Des recherches de l'Université de Melbourne ont révélé que les logiciels de recrutement par IA peuvent discriminer les candidates portant le foulard, les candidats dont le nom est perçu comme « noir », et les personnes qui demandent des aménagements pour leur handicap .
• Un audit du Commissaire à l'information du Royaume-Uni a révélé que certains outils de recrutement par IA filtrent les candidats sur la base de caractéristiques protégées telles que la race, le genre et l'orientation sexuelle .

Google vend lui-même des outils RH basés sur l'IA à ses clients entreprises, promettant un tri plus rapide et plus objectif . L'épisode de l'ASAT sape ce message marketing en reconnaissant implicitement que ses propres filtres sont faillibles.

La réponse de Google DeepMind

DeepMind a contesté l'idée que ses systèmes de recrutement soient défaillants dans leur ensemble. Un porte-parole a décrit le formulaire de contournement comme une simple « mesure d'efficacité » pour les postes à fort volume . Cependant, le langage même du document interne – qui met en garde contre un tri incorrect et insiste sur la confidentialité – suggère que l'équipe considère le problème comme suffisamment sérieux pour justifier une solution de contournement .

En résumé

La situation révèle un fossé de crédibilité : l'équipe même que Google emploie pour rechercher et se prémunir contre les risques de l'IA ne fait pas confiance aux systèmes d'IA que Google utilise pour sélectionner ses futures recrues. Cette dissonance a attiré l'attention en tant que cas concret où un développeur d'IA reconnaît implicitement les limites et les risques de la technologie qu'il construit et vend. Comme le résume une analyse : « l'équipe responsable de la sécurité de l'IA avancée ne fait pas confiance à l'IA de son propre employeur pour lire des CV » .