Il team sicurezza AI di Google DeepMind dice ai candidati: non fidatevi dei nostri filtri automatici

L'ironia di fondo

ASAT esiste per ridurre i rischi esistenziali e catastrofici derivanti dall'AGI e, in futuro, dalla superintelligenza . Eppure, le linee guida interne del team avvertono esplicitamente che i filtri AI di Google per le assunzioni non sono affidabili. Secondo un documento visionato da Bloomberg, il team dichiara: 'Abbiamo un sistema di candidature con una probabilità non trascurabile che il tuo CV venga scartato in modo errato o che impieghi troppo tempo per arrivare a noi' . Il team sta di fatto dicendo ai potenziali assunti: non fidatevi dell'AI dell'azienda per valutare la vostra candidatura in modo competente.

Come aggirare l'AI aziendale

Il documento interno, che riporta l'insolita dicitura 'PER FAVORE NON CONDIVIDERE AMPIAMENTE QUESTO DOCUMENTO', indirizza i candidati per i ruoli ASAT a compilare un modulo di candidatura interno e riservato . Il modulo è progettato per garantire che le candidature arrivino direttamente davanti a revisori umani, evitando la pipeline di screening automatico dei CV di Google . Bloomberg ha riportato che lo scopo del modulo è eliminare il rischio che le candidature 'possano essere automaticamente scartate dai sistemi AI interni dell'azienda' .

Avvertimento contro l'uso dell'AI per la candidatura

Gli annunci di lavoro di ASAT sul Forum di Allineamento (Alignment Forum) affermano: 'Per favore non usate l'AI per scrivere la vostra candidatura; vogliamo sentire la vostra voce' . Questo crea una contraddizione a più livelli: il team non si fida dei sistemi di screening AI di Google al punto da aggirarli, ma allo stesso tempo non si fida dell'uso dell'AI da parte dei candidati per scrivere le risposte, nonostante il lavoro di ASAT consista proprio nello sviluppare e supervisionare sistemi AI avanzati.

Contesto più ampio: lo scrutinio sui bias dell'AI nelle assunzioni

L'episodio di ASAT non è un caso isolato. Una serie di studi e indagini hanno documentato problemi persistenti con gli strumenti di assunzione basati sull'AI:

• Uno studio dello Stanford HAI del luglio 2026 ha analizzato 4 milioni di candidature di lavoro in oltre 150 aziende, scoprendo che gli strumenti di assunzione basati sull'AI possono produrre risultati razzialmente discriminatori su larga scala. I ricercatori hanno scoperto che il 15% dei candidati asiatici e il 26% dei candidati neri venivano sistematicamente respinti per diversi lavori, un modello che suggerisce un bias sistemico .
• Un'analisi di Bloomberg ha mostrato che GPT-3.5 di OpenAI, quando gli veniva chiesto di classificare i curriculum 1.000 volte, favoriva sistematicamente i nomi di alcune demografie rispetto ad altre, in misura tale da non superare i parametri di riferimento utilizzati per valutare la discriminazione sul lavoro .
• Una ricerca dell'Università di Melbourne ha scoperto che il software AI per le assunzioni potrebbe discriminare i candidati che indossano il velo, quelli con nomi percepiti come neri e le persone che richiedono accomodamenti per disabilità .
• Un audit dell'Information Commissioner's Office del Regno Unito ha rilevato che alcuni strumenti di reclutamento basati sull'AI filtrano i candidati in base a caratteristiche protette come razza, genere e orientamento sessuale .

Google stesso vende strumenti HR basati sull'AI ai clienti aziendali, promettendo uno screening più veloce e obiettivo . L'episodio di ASAT mina quel messaggio di marketing, riconoscendo implicitamente che i filtri della stessa azienda sono fallibili.

La risposta di Google DeepMind

DeepMind ha contestato la caratterizzazione che i suoi sistemi di assunzione siano generalmente inefficienti. Un portavoce ha descritto il modulo di bypass come semplicemente una 'misura di efficienza' per posizioni ad alto volume . Tuttavia, il linguaggio del documento interno—che avverte di uno screening errato e sollecita la segretezza—suggerisce che il team considera il problema abbastanza grave da giustificare una soluzione alternativa .

In conclusione: una questione di credibilità

La situazione rivela un vuoto di credibilità: il team stesso che Google impiega per ricercare e proteggersi dai rischi di un AI disallineata non si fida dei sistemi AI che Google usa per selezionare le proprie future assunzioni. Questa dissonanza ha attirato molta attenzione come esempio reale di uno sviluppatore di AI che implicitamente riconosce i limiti e i rischi della stessa tecnologia che costruisce e vende. Come ha riassunto un'analisi: 'il team responsabile della sicurezza dell'AI avanzata non si fida dell'AI del proprio datore di lavoro per leggere i curriculum' .