«Un humano de verdad leerá esto»: el equipo de seguridad de Google DeepMind pide a los candidatos que eviten los filtros de IA de la empresa

La ironía central

ASAT existe para reducir los riesgos existenciales y catastróficos de la IA General (AGI) y, eventualmente, de la superinteligencia . Sin embargo, las directrices internas del equipo advierten explícitamente que los propios filtros de contratación con IA de Google no son de fiar. Según un documento revisado por Bloomberg, el equipo afirma: «Tenemos un sistema de solicitudes con una probabilidad no trivial de que tu CV sea descartado incorrectamente o tarde demasiado en llegar hasta nosotros» . El equipo está diciendo efectivamente a los posibles contratados: no confíen en que la IA de la empresa los evalúe de forma competente.

Evadiendo la propia IA de la empresa

El documento interno, que lleva el inusual descargo de responsabilidad «POR FAVOR, NO COMPARTA AMPLIAMENTE ESTE DOCUMENTO», dirige a los candidatos para puestos de ASAT a completar un formulario de envío interno confidencial . El formulario está diseñado para garantizar que las solicitudes lleguen directamente a revisores humanos en lugar de ser introducidas en el proceso automatizado de selección de CV de Google . Bloomberg informó que el propósito del formulario es eliminar el riesgo de que las solicitudes «puedan ser automáticamente descartadas por los sistemas internos de IA de la empresa» .

Advertencia contra el uso de IA para redactar solicitudes

Las ofertas de trabajo de ASAT en el Alignment Forum indican: «Por favor, no uses IA para escribir tu solicitud; queremos escuchar tu voz» . Esto crea una contradicción en capas: el equipo desconfía de los sistemas de selección de IA de Google lo suficiente como para esquivarlos, pero también desconfía del uso que los candidatos puedan hacer de herramientas de chat de IA para redactar respuestas, incluso cuando el propio trabajo de ASAT implica desarrollar y supervisar sistemas de IA avanzados.

Contexto más amplio del escrutinio del sesgo en la contratación con IA

El episodio de ASAT no es un incidente aislado. Una serie de estudios e investigaciones han documentado problemas persistentes con las herramientas de contratación impulsadas por IA:

• Un estudio de Stanford HAI de julio de 2026 analizó 4 millones de solicitudes de empleo en más de 150 empleadores y encontró que las herramientas de contratación con IA pueden producir resultados racialmente dispares a gran escala. Los investigadores descubrieron que el 15% de los solicitantes asiáticos y el 26% de los solicitantes negros fueron rechazados repetidamente en múltiples trabajos, un patrón que sugiere un sesgo sistémico .
• Un análisis de Bloomberg mostró que GPT-3.5 de OpenAI, al pedírsele que clasificara currículos 1,000 veces, favoreció sistemáticamente nombres de algunos grupos demográficos sobre otros en un grado que no superaría los puntos de referencia utilizados para evaluar la discriminación laboral .
• Una investigación de la Universidad de Melbourne encontró que el software de contratación con IA puede discriminar a solicitantes que usan hiyab, aquellos con nombres percibidos como negros, y personas que solicitan adaptaciones por discapacidad .
• Una auditoría de la Oficina del Comisionado de Información del Reino Unido (ICO) encontró que algunas herramientas de reclutamiento con IA filtran candidatos basándose en características protegidas como raza, género y orientación sexual .

La propia Google vende herramientas de RRHH impulsadas por IA a clientes corporativos, prometiendo una selección más rápida y objetiva . El episodio de ASAT socava ese mensaje de marketing al reconocer implícitamente que los propios filtros de la empresa son falibles.

Respuesta de Google DeepMind

DeepMind cuestionó la caracterización de que sus sistemas de contratación más amplios están rotos. Un portavoz describió el formulario de evasión simplemente como una «medida de eficiencia» para roles de alto volumen . Sin embargo, el lenguaje del propio documento interno —advirtiendo sobre una selección incorrecta e instando a la confidencialidad— sugiere que el equipo considera el problema lo suficientemente material como para justificar una solución alternativa .

Conclusión

La situación revela una brecha de credibilidad: el mismo equipo que Google emplea para investigar y protegerse contra la desalineación de la IA no confía en los sistemas de IA que Google utiliza para seleccionar a sus propios futuros empleados. Esta disonancia ha atraído una amplia atención como un caso real de un desarrollador de IA que reconoce implícitamente las limitaciones y riesgos de la misma tecnología que construye y vende. Como resumió un análisis: «el equipo responsable de la seguridad de la IA avanzada no confía en la propia IA de su empleador para leer currículos» .