Ironie ten top: AI-safetyteam van Google DeepMind vertrouwt eigen AI-sollicitatiefilters niet

De kern van de ironie

ASAT bestaat om existentiële en catastrofale risico's van AGI en uiteindelijk superintelligentie te verminderen . Toch waarschuwt de interne richtlijn van het team expliciet dat Google's eigen AI-sollicitatiefilters niet te vertrouwen zijn. Volgens een document dat door Bloomberg is ingezien, stelt het team: 'We hebben een sollicitatiesysteem waarbij een niet-verwaarloosbare kans bestaat dat uw cv onterecht wordt weggefilterd of te lang onderweg is naar ons' . Het team vertelt potentiële nieuwe medewerkers in feite: reken er niet op dat de AI van het bedrijf u op een competente manier beoordeelt.

De omweg om de eigen AI te omzeilen

Het interne document, dat de ongebruikelijke disclaimer 'DEEL DIT DOCUMENT NIET BREED' draagt, verwijst kandidaten voor ASAT-functies naar een vertrouwelijk intern aanmeldingsformulier . Dit formulier is ontworpen om ervoor te zorgen dat sollicitaties rechtstreeks bij menselijke beoordelaars terechtkomen, in plaats van in de geautomatiseerde cv-screeningspijplijn van Google te belanden . Bloomberg meldde dat het doel van het formulier is om het risico te elimineren dat sollicitaties 'automatisch worden weggefilterd door de interne AI-systemen van het bedrijf' .

Waarschuwing tegen AI gegenereerde sollicitaties

In de vacatureteksten van ASAT op het Alignment Forum staat: 'Gebruik geen AI om uw sollicitatie te schrijven; we willen uw stem horen' . Dit creëert een gelaagde tegenstrijdigheid: het team vertrouwt Google's AI-screeningsystemen niet genoeg om ze te omzeilen, maar wantrouwt ook het gebruik van AI-chatbots door kandidaten om antwoorden op te stellen—zelfs terwijl het eigen werk van ASAT juist bestaat uit het ontwikkelen en beheren van geavanceerde AI-systemen.

De bredere context van vooroordelen bij AI-werving

De ASAT-kwestie staat niet op zichzelf. Een reeks studies en onderzoeken heeft aanhoudende problemen met AI-gestuurde wervingstools gedocumenteerd:

• Een Stanford HAI-studie van juli 2026 analyseerde 4 miljoen sollicitaties bij meer dan 150 werkgevers en ontdekte dat AI-wervingstools op grote schaal tot raciaal ongelijke uitkomsten kunnen leiden. De onderzoekers ontdekten dat 15% van de Aziatische en 26% van de zwarte sollicitanten herhaaldelijk werden afgewezen voor meerdere banen—een patroon dat wijst op systematische vooringenomenheid .
• Een Bloomberg-analyse toonde aan dat OpenAI's GPT-3.5, toen het 1.000 keer werd gevraagd om cv's te rangschikken, systematisch namen uit bepaalde demografische groepen bevoordeelde, in een mate die de gebruikelijke maatstaven voor discriminatie bij werving zou overschrijden .
• Onderzoek van de University of Melbourne wees uit dat AI-wervingssoftware kan discrimineren tegen sollicitanten die een hoofddoek dragen, tegen namen die als 'zwart' worden beschouwd, en tegen personen die om aanpassingen voor een beperking vragen .
• Een audit van de Britse Information Commissioner's Office (ICO) toonde aan dat sommige AI-wervingstools sollicitanten filteren op basis van beschermde kenmerken zoals ras, geslacht en seksuele geaardheid .

Google verkoopt zelf AI-gestuurde HR-tools aan zakelijke klanten, met de belofte van snellere en objectievere screening . De ASAT-kwestie ondermijnt die marketingboodschap door impliciet toe te geven dat de eigen filters van het bedrijf feilbaar zijn.

Reactie van Google DeepMind

DeepMind betwistte de karakterisering dat de bredere wervingssystemen kapot zijn. Een woordvoerder omschreef het omzeilingsformulier als een 'efficiëntiemaatregel' voor functies met veel sollicitanten . De eigen bewoordingen van het interne document—waarschuwend voor onjuiste screening en aandringend op geheimhouding—suggereren echter dat het team het probleem ernstig genoeg vindt om een workaround te rechtvaardigen .

De conclusie

De situatie onthult een geloofwaardigheidskloof: het team dat Google inhuurt om onderzoek te doen naar en te bewaken tegen AI-misalignment vertrouwt de AI-systemen niet die Google gebruikt om zijn eigen toekomstige medewerkers te screenen. Deze dissonantie heeft brede aandacht getrokken als een realistisch voorbeeld van een AI-ontwikkelaar die impliciet de beperkingen en risico's erkent van dezelfde technologie die hij bouwt en verkoopt. Zoals een analyse samenvatte: 'het team dat verantwoordelijk is voor geavanceerde AI-veiligheid vertrouwt de AI van zijn eigen werkgever niet om cv's te lezen' .