Ironien er til at tage og føle på: Google DeepMinds AI-sikkerhedsteam beder ansøgere om at gå uden om virksomhedens egne AI-ansættelsesværktøjer

Den centrale ironi

ASAT eksisterer for at reducere eksistentielle og katastrofale risici fra AGI og i sidste ende superintelligens . Alligevel advarer teamets interne vejledning udtrykkeligt om, at Googles egne AI-ansættelsesfiltre ikke er til at stole på. Ifølge et dokument, som Bloomberg har set, står der: “Vi har et ansøgningssystem med en ikke-triviel sandsynlighed for, at dit CV bliver sorteret forkert fra eller tager for lang tid om at nå os” . Teamet siger reelt til potentielle medarbejdere: Stol ikke på virksomhedens AI til at vurdere dig kompetent.

Uden om virksomhedens egen AI

Det interne dokument, som bærer den usædvanlige advarsel “DEL IKKE DETTE DOKUMENT VIDT,” henviser kandidater til ASAT-stillinger til en fortrolig intern indsendelsesformular . Formularen er designet til at sikre, at ansøgninger lander direkte foran menneskelige rekrutteringsmedarbejdere i stedet for at blive fodret ind i Googles automatiserede CV-screeningspipeline . Bloomberg rapporterede, at formularernes formål er at eliminere risikoen for, at ansøgninger “automatisk bliver sorteret fra af virksomhedens interne AI-systemer” .

Advarsel mod AI-genererede ansøgninger

ASAT's jobopslag på Alignment Forum indeholder følgende: “Brug ikke AI til at skrive din ansøgning; vi vil høre din stemme” . Dette skaber en lagdelt modsætning: Teamet stoler ikke på Googles AI-screeningssystemer nok til at bruge dem, men stoler heller ikke på, at kandidater bruger AI-chatværktøjer til at udarbejde svar—selvom ASAT's eget arbejde involverer udvikling og overvågning af avancerede AI-systemer.

Bredere kontekst: Skærpet granskning af bias i AI-ansættelse

ASAT-episoden er ikke en isoleret hændelse. En række undersøgelser og afsløringer har dokumenteret vedvarende problemer med AI-drevne ansættelsesværktøjer:

• Et Stanford HAI-studie fra juli 2026 analyserede 4 millioner jobansøgninger på tværs af 150+ arbejdsgivere og fandt, at AI-ansættelsesværktøjer kan producere racebestemte skæve resultater i stor skala. Forskerne fandt, at 15% af asiatiske ansøgere og 26% af sorte ansøgere gentagne gange blev afvist på tværs af flere jobs—et mønster, der tyder på systemisk bias .
• En Bloomberg-analyse viste, at OpenAI's GPT-3.5, da den blev bedt om at rangere CV'er 1.000 gange, systematisk favoriserede navne fra nogle demografiske grupper frem for andre i en grad, der ville fejle de benchmarks, der bruges til at vurdere jobdiskrimination .
• Forskning fra University of Melbourne viste, at AI-ansættelsessoftware kan diskriminere mod ansøgere, der bærer tørklæde, ansøgere med navne, der opfattes som sorte, og personer, der anmoder om handicap-tilpasninger .
• En revision fra Storbritanniens Information Commissioner's Office (ICO) fandt, at nogle AI-rekrutteringsværktøjer filtrerer ansøgere baseret på beskyttede karakteristika som race, køn og seksuel orientering .

Google sælger selv AI-drevne HR-værktøjer til virksomhedskunder med løfter om hurtigere og mere objektiv screening . ASAT-episoden underminerer dette markedsføringsbudskab ved implicit at anerkende, at virksomhedens egne filtre er fejlbehæftede.

Google DeepMinds svar

DeepMind afviste, at episoden skulle indikere, at deres bredere ansættelsessystemer er i stykker. En talsperson beskrev omgåelsesformularen som blot et “effektivitetstiltag” for stillinger med mange ansøgere . Men det interne dokuments egen ordlyd—der advarer om fejlagtig screening og opfordrer til hemmeligholdelse—tyder på, at teamet anser problemet for at være væsentligt nok til at retfærdiggøre en løsning .

Konklusion

Situationen afslører et troværdighedsproblem: Det team, Google ansætter til at forske i og beskytte mod fejljustering i AI, stoler ikke på de AI-systemer, Google bruger til at screene sine egne fremtidige medarbejdere. Denne dissonans har tiltrukket sig bred opmærksomhed som et virkeligt eksempel på, at en AI-udvikler implicit anerkender begrænsningerne og risiciene ved den samme teknologi, som de bygger og sælger. Som en analyse opsummerede: “teamet med ansvar for avanceret AI-sikkerhed stoler ikke på sin egen arbejdsgivers AI til at læse CV'er” .