Ironin hos Google DeepMind: Säkerhetsteamet litar inte på företagets egna AI-filter

Den centrala ironin

ASAT finns för att minska existentiella och katastrofala risker från AGI (artificiell allmän intelligens) och på sikt superintelligens . Ändå varnar teamet uttryckligen i sin interna vägledning för att Googles egna AI-baserade rekryteringsfilter inte går att lita på. Enligt ett dokument som Bloomberg har granskat står det: ”Vi har ett ansökningssystem där det finns en icke-trivial sannolikhet att ditt CV kommer att sållas bort felaktigt eller ta för lång tid att nå oss” . Teamet säger i praktiken till potentiella medarbetare: lita inte på att företagets AI kan bedöma er på ett kompetent sätt.

Att kringgå företagets egen AI

Det interna dokumentet, som bär den ovanliga varningen ”VÄNLIGEN DELA INTE DETTA DOKUMENTET BRETT”, hänvisar kandidater till en konfidentiell intern ansökningsblankett för roller inom ASAT . Blanketten är utformad för att säkerställa att ansökningar hamnar direkt hos mänskliga granskare i stället för att matas in i Googles automatiska CV-granskningspipeline . Bloomberg rapporterade att syftet med blanketten är att eliminera risken att ansökningar ”kan komma att sorteras bort automatiskt av företagets interna AI-system” .

Varning mot AI-genererat ansökningsmaterial

ASAT:s platsannonser på plattformen Alignment Forum innehåller uppmaningen: ”Använd inte AI för att skriva din ansökan; vi vill höra din röst” . Detta skapar en skiktad paradox: teamet litar inte på Googles AI-granskningssystem tillräckligt mycket för att använda dem, men litar inte heller på att kandidater använder AI-verktyg för att utforma sina svar – detta trots att ASAT:s eget arbete handlar om att utveckla och övervaka avancerade AI-system.

Bredare kontext av granskning av AI-baserad rekrytering

ASAT-episoden är inte ett isolerat fall. En rad studier och utredningar har dokumenterat bestående problem med AI-drivna rekryteringsverktyg:

• En studie från Stanford HAI i juli 2026 analyserade 4 miljoner jobbansökningar hos över 150 arbetsgivare och fann att AI-baserade rekryteringsverktyg kan producera rasrelaterade skillnader i stor skala. Forskarna upptäckte att 15 % av asiatiska sökande och 26 % av svarta sökande gång på gång avvisades från flera olika jobb – ett mönster som tyder på systematisk bias .
• En Bloomberg-analys visade att OpenAI:s GPT-3.5, när den ombads rangordna CV:n 1 000 gånger, systematiskt gynnade namn från vissa demografiska grupper framför andra i en omfattning som skulle underkänna de riktmärken som används för att bedöma diskriminering i anställningssammanhang .
• Forskning från University of Melbourne visade att AI-baserad rekryteringsprogramvara kan diskriminera sökande som bär slöja, har namn som uppfattas som svarta, eller som begär anpassningar för funktionsnedsättning .
• En granskning från Storbritanniens datainspektion (Information Commissioner's Office) fann att vissa AI-rekryteringsverktyg sållar sökande baserat på skyddade egenskaper som ras, kön och sexuell läggning .

Google säljer själv AI-baserade HR-verktyg till företagskunder, med löften om snabbare och mer objektiv gallring . ASAT-episoden underminerar det marknadsföringsbudskapet genom att implicit erkänna att företagets egna filter är behäftade med fel.

Google DeepMinds svar

DeepMind har ifrågasatt beskrivningen att företagets bredare rekryteringssystem är trasiga. En talesperson beskrev den interna blanketten som en ”effektivitetsåtgärd” för roller med många sökande . Det interna dokumentets egen formulering – som varnar för felaktig sållning och uppmanar till hemlighetsmakeri – tyder dock på att teamet anser att problemet är tillräckligt allvarligt för att motivera en kringgångsmanöver .

Slutsats

Situationen blottlägger en trovärdighetsklyfta: det team som Google anställt för att forska om och skydda mot felaktigheter i AI litar inte på de AI-system som Google använder för att sålla bland sina egna framtida anställda. Denna dissonans har väckt stor uppmärksamhet som ett verkligt exempel på en AI-utvecklare som implicit erkänner begränsningarna och riskerna med den teknik man själv bygger och säljer. Som en analys sammanfattade det: ”teamet som ansvarar för avancerad AI-säkerhet litar inte på sin egen arbetsgivares AI för att läsa CV:n” .