Den bakenforliggende ironien

ASAT eksisterer for å redusere eksistensielle og katastrofale farer knyttet til AGI og etter hvert superintelligens . Likevel advarer teamet i sin interne veiledning eksplisitt om at Googles egne AI-ansettelsesfiltre ikke kan stoles på. Ifølge et dokument Bloomberg har sett, står det: «Vi har et søknadssystem med en ikke-triviell sannsynlighet for at din CV blir feilaktig screenet bort eller tar for lang tid å nå oss» . Teamet sier i praksis til potensielle ansatte: Stol ikke på at selskapets AI kan vurdere deg på en god måte.

Å omgå selskapets egen AI

Det interne dokumentet, som bærer den uvanlige ansvarsfraskrivelsen «PLEASE DO NOT SHARE THIS DOC WIDELY», oppfordrer kandidater til ASAT-stillinger til å fylle ut et konfidensielt internt skjema . Skjemaet er utformet for å sikre at søknader havner direkte hos menneskelige vurderere i stedet for å mates inn i Googles automatiserte CV-screeningssystem . Bloomberg rapporterte at formålet med skjemaet er å eliminere risikoen for at søknader «automatisk kan screenes bort av selskapets interne AI-systemer» .

Advarsel mot AI-genererte søknader

ASATs stillingsutlysninger på Alignment Forum slår fast: «Vennligst ikke bruk AI til å skrive søknaden din; vi ønsker å høre din stemme» . Dette skaper en lagdelt selvmotsigelse: Teamet stoler ikke nok på Googles AI-screeningssystemer til å bruke dem, men stoler heller ikke på at kandidater bruker AI-verktøy til å utforme svar – selv om ASATs eget arbeid innebærer å utvikle og overvåke avanserte AI-systemer.

Bredere kontekst: Skjevhet i AI-ansettelser under lupen

ASAT-episoden er ikke et isolert tilfelle. En rekke studier og undersøkelser har dokumentert vedvarende problemer med AI-drevne ansettelsesverktøy:

• En Stanford HAI-studie fra juli 2026 analyserte 4 millioner jobbsøknader på tvers av over 150 arbeidsgivere og fant at AI-ansettelsesverktøy kan gi systematisk forskjellsbehandling basert på rase. Forskerne fant at 15 % av asiatiske søkere og 26 % av svarte søkere gjentatte ganger ble avvist på tvers av flere jobber – et mønster som tyder på systemisk skjevhet .
• En Bloomberg-analyse viste at OpenAIs GPT-3.5, da den ble bedt om å rangere CV-er 1000 ganger, systematisk favoriserte navn fra enkelte demografiske grupper fremfor andre, i en grad som ville stridt mot retningslinjer for å vurdere diskriminering i arbeidslivet .
• Forskning fra University of Melbourne fant at AI-ansettelsesprogramvare kan diskriminere mot søkere som bruker hijab, har navn som oppfattes som «svarte», eller som ber om tilrettelegging for funksjonsnedsettelser .
• En revisjon fra den britiske informasjonskommissæren (ICO) avdekket at noen AI-rekrutteringsverktøy filtrerer søkere basert på beskyttede kjennetegn som rase, kjønn og seksuell legning .

Google selv selger AI-drevne HR-verktøy til bedriftskunder, og lover raskere og mer objektiv screening . ASAT-episoden undergraver dette budskapet ved å implisitt erkjenne at selskapets egne filtre har feil.

Googles svar

DeepMind har bestridt beskrivelsen av at selskapets overordnede ansettelsessystemer er defekte. En talsperson beskrev omgåelsesskjemaet som et «effektivitetstiltak» for stillinger med høyt søkertall . Likevel tyder det interne dokumentets egen ordlyd – med advarsel om feilaktig screening og oppfordring til hemmelighold – på at teamet anser problemet som vesentlig nok til å rettferdiggjøre en omvei .

Hovedpoenget

Situasjonen avslører et troverdighetsgap: Det teamet Google har ansatt for å forske på og verne mot feilslått AI, stoler ikke på AI-systemene Google bruker til å screene sine egne fremtidige ansatte. Denne dissonansen har fått bred oppmerksomhet som et virkelig eksempel på at en AI-utvikler implisitt erkjenner begrensningene og risikoene ved den samme teknologien de bygger og selger. Som én analyse oppsummerte det: «Teamet som har ansvar for avansert AI-sikkerhet, stoler ikke på egen arbeidsgivers AI til å lese CV-er» .

Den bakenforliggende ironien

ASAT eksisterer for å redusere eksistensielle og katastrofale farer knyttet til AGI og etter hvert superintelligens . Likevel advarer teamet i sin interne veiledning eksplisitt om at Googles egne AI-ansettelsesfiltre ikke kan stoles på. Ifølge et dokument Bloomberg har sett, står det: «Vi har et søknadssystem med en ikke-triviell sannsynlighet for at din CV blir feilaktig screenet bort eller tar for lang tid å nå oss» . Teamet sier i praksis til potensielle ansatte: Stol ikke på at selskapets AI kan vurdere deg på en god måte.

Å omgå selskapets egen AI

Det interne dokumentet, som bærer den uvanlige ansvarsfraskrivelsen «PLEASE DO NOT SHARE THIS DOC WIDELY», oppfordrer kandidater til ASAT-stillinger til å fylle ut et konfidensielt internt skjema . Skjemaet er utformet for å sikre at søknader havner direkte hos menneskelige vurderere i stedet for å mates inn i Googles automatiserte CV-screeningssystem . Bloomberg rapporterte at formålet med skjemaet er å eliminere risikoen for at søknader «automatisk kan screenes bort av selskapets interne AI-systemer» .

Advarsel mot AI-genererte søknader

ASATs stillingsutlysninger på Alignment Forum slår fast: «Vennligst ikke bruk AI til å skrive søknaden din; vi ønsker å høre din stemme» . Dette skaper en lagdelt selvmotsigelse: Teamet stoler ikke nok på Googles AI-screeningssystemer til å bruke dem, men stoler heller ikke på at kandidater bruker AI-verktøy til å utforme svar – selv om ASATs eget arbeid innebærer å utvikle og overvåke avanserte AI-systemer.

Bredere kontekst: Skjevhet i AI-ansettelser under lupen

ASAT-episoden er ikke et isolert tilfelle. En rekke studier og undersøkelser har dokumentert vedvarende problemer med AI-drevne ansettelsesverktøy:

• En Stanford HAI-studie fra juli 2026 analyserte 4 millioner jobbsøknader på tvers av over 150 arbeidsgivere og fant at AI-ansettelsesverktøy kan gi systematisk forskjellsbehandling basert på rase. Forskerne fant at 15 % av asiatiske søkere og 26 % av svarte søkere gjentatte ganger ble avvist på tvers av flere jobber – et mønster som tyder på systemisk skjevhet .
• En Bloomberg-analyse viste at OpenAIs GPT-3.5, da den ble bedt om å rangere CV-er 1000 ganger, systematisk favoriserte navn fra enkelte demografiske grupper fremfor andre, i en grad som ville stridt mot retningslinjer for å vurdere diskriminering i arbeidslivet .
• Forskning fra University of Melbourne fant at AI-ansettelsesprogramvare kan diskriminere mot søkere som bruker hijab, har navn som oppfattes som «svarte», eller som ber om tilrettelegging for funksjonsnedsettelser .
• En revisjon fra den britiske informasjonskommissæren (ICO) avdekket at noen AI-rekrutteringsverktøy filtrerer søkere basert på beskyttede kjennetegn som rase, kjønn og seksuell legning .

Google selv selger AI-drevne HR-verktøy til bedriftskunder, og lover raskere og mer objektiv screening . ASAT-episoden undergraver dette budskapet ved å implisitt erkjenne at selskapets egne filtre har feil.

Googles svar

DeepMind har bestridt beskrivelsen av at selskapets overordnede ansettelsessystemer er defekte. En talsperson beskrev omgåelsesskjemaet som et «effektivitetstiltak» for stillinger med høyt søkertall . Likevel tyder det interne dokumentets egen ordlyd – med advarsel om feilaktig screening og oppfordring til hemmelighold – på at teamet anser problemet som vesentlig nok til å rettferdiggjøre en omvei .

Hovedpoenget

Situasjonen avslører et troverdighetsgap: Det teamet Google har ansatt for å forske på og verne mot feilslått AI, stoler ikke på AI-systemene Google bruker til å screene sine egne fremtidige ansatte. Denne dissonansen har fått bred oppmerksomhet som et virkelig eksempel på at en AI-utvikler implisitt erkjenner begrensningene og risikoene ved den samme teknologien de bygger og selger. Som én analyse oppsummerte det: «Teamet som har ansvar for avansert AI-sikkerhet, stoler ikke på egen arbeidsgivers AI til å lese CV-er» .