Ironia máxima: time de segurança em IA do Google DeepMind diz a candidatos para ignorarem os filtros de IA da própria empresa

A ironia central

O ASAT existe para reduzir riscos existenciais e catastróficos vindos de uma Inteligência Artificial Geral (AGI) e, eventualmente, de uma superinteligência . No entanto, as orientações internas da equipe alertam explicitamente que os filtros de IA do Google não são confiáveis. De acordo com um documento visto pela Bloomberg, a equipe declara: "Temos um sistema de candidaturas com probabilidade não trivial de seu currículo ser descartado incorretamente ou levar tempo demais para nos alcançar" . A equipe está, na prática, dizendo aos candidatos: não confiem na IA da empresa para avaliá-los de forma competente.

Como burlar a própria IA da empresa

O documento interno, que traz o aviso incomum "POR FAVOR, NÃO COMPARTILHE ESTE DOCUMENTO AMPLAMENTE", direciona os candidatos a vagas no ASAT a preencher um formulário de submissão interno e confidencial . O formulário foi criado para garantir que as candidaturas cheguem diretamente a revisores humanos, em vez de alimentar o pipeline automatizado de triagem de currículos do Google . A Bloomberg reportou que o objetivo do formulário é eliminar o risco de que as candidaturas "sejam automaticamente descartadas pelos sistemas de IA internos da empresa" .

Alerta contra o uso de IA nas candidaturas

Os anúncios de vagas do ASAT no Alignment Forum afirmam: "Por favor, não use IA para escrever sua candidatura; queremos ouvir sua voz" . Isso cria uma contradição em camadas: a equipe não confia nos sistemas de triagem de IA do Google a ponto de desviar deles, mas também desconfia do uso de ferramentas de IA pelos candidatos para redigir respostas — mesmo que o trabalho do ASAT envolva desenvolver e supervisionar sistemas de IA avançados.

Contexto mais amplo de escrutínio sobre viés em contratação por IA

O episódio do ASAT não é um caso isolado. Uma série de estudos e investigações documentaram problemas persistentes com ferramentas de contratação baseadas em IA:

• Um estudo de julho de 2026 do Stanford HAI analisou 4 milhões de candidaturas de emprego em mais de 150 empregadores e descobriu que ferramentas de IA podem produzir resultados racialmente desiguais em grande escala. Os pesquisadores descobriram que 15% dos candidatos asiáticos e 26% dos candidatos negros foram repetidamente rejeitados em várias vagas — um padrão que sugere viés sistêmico .
• Uma análise da Bloomberg mostrou que o GPT-3.5 da OpenAI, quando instruído a classificar currículos 1.000 vezes, favoreceu sistematicamente nomes de alguns grupos demográficos em detrimento de outros, a ponto de falhar em referências usadas para avaliar discriminação no trabalho .
• Pesquisas da Universidade de Melbourne descobriram que softwares de contratação baseados em IA podem discriminar candidatas que usam véu, aqueles com nomes percebidos como negros e indivíduos que solicitam acomodações para deficiência .
• Uma auditoria do Information Commissioner's Office (ICO) do Reino Unido constatou que algumas ferramentas de recrutamento com IA filtram candidatos com base em características protegidas, como raça, gênero e orientação sexual .

O próprio Google vende ferramentas de RH baseadas em IA para clientes corporativos, prometendo uma triagem mais rápida e objetiva . O episódio do ASAT enfraquece essa mensagem de marketing ao admitir implicitamente que os próprios filtros da empresa são falíveis.

A resposta do Google DeepMind

O DeepMind contestou a caracterização de que seus sistemas de contratação são falhos. Um porta-voz descreveu o formulário alternativo simplesmente como uma "medida de eficiência" para cargos de alto volume . No entanto, a linguagem do documento interno — alertando sobre triagem incorreta e pedindo sigilo — sugere que a equipe considera o problema grave o suficiente para justificar uma solução alternativa .

A conclusão

A situação revela uma lacuna de credibilidade: a própria equipe que o Google emprega para pesquisar e se proteger contra os riscos de uma IA desalinhada não confia nos sistemas de IA que o Google usa para selecionar seus próprios futuros funcionários. Essa dissonância atraiu ampla atenção como um caso real em que uma desenvolvedora de IA reconhece implicitamente as limitações e os riscos da mesma tecnologia que constrói e vende. Como resumiu uma análise: "a equipe responsável pela segurança da IA avançada não confia na IA de seu próprio empregador para ler currículos" .