„Ein echter Mensch wird das lesen“: DeepMinds eigenes KI-Sicherheitsteam rät Bewerbern, die KI-Filter von Google zu umgehen

Die Kern-Ironie

ASAT wurde gegründet, um existenzielle und katastrophale Risiken durch Künstliche Allgemeine Intelligenz (AGI) und letztlich Superintelligenz zu reduzieren . Doch die internen Richtlinien des Teams warnen ausdrücklich davor, dass Googles eigene KI-Bewerbungsfilter nicht vertrauenswürdig sind. Ein von Bloomberg eingesehenes Dokument stellt fest: „Unser Bewerbungssystem hat eine nicht-triviale Wahrscheinlichkeit, dass Ihr Lebenslauf zu Unrecht aussortiert wird oder zu lange braucht, um uns zu erreichen“ . Das Team sagt potenziellen Neueinstellungen damit im Klartext: Verlasst Euch nicht auf die KI des Unternehmens, um Euch kompetent zu bewerten.

Umgehung der hauseigenen KI

Das interne Dokument, das den ungewöhnlichen Hinweis „BITTE TEILEN SIE DIESES DOKUMENT NICHT WEIT“ trägt, leitet Kandidaten für ASAT-Rollen an, ein vertrauliches internes Formular auszufüllen . Dieses Formular soll sicherstellen, dass die Bewerbungen direkt vor menschliche Prüfer gelangen, anstatt in Googles automatisierte Lebenslauf-Vorauswahl zu laufen . Bloomberg berichtete, dass das Formular das Risiko eliminieren soll, dass Bewerbungen „von den internen KI-Systemen des Unternehmens automatisch aussortiert werden“ .

Warnung vor KI-generierten Bewerbungsunterlagen

In den Stellenausschreibungen von ASAT auf dem Alignment Forum heißt es: „Bitte verwenden Sie keine KI, um Ihre Bewerbung zu schreiben; wir wollen Ihre Stimme hören“ . Das erzeugt eine weitere Ironie: Das Team misstraut den KI-Systemen von Google so sehr, dass es sie umgeht, gleichzeitig aber auch Bewerbern nicht traut, KI für die Formulierung ihrer Antworten zu nutzen – und das, obwohl ASAT selbst an der Entwicklung und Überwachung fortschrittlicher KI-Systeme arbeitet.

KI im Recruiting unter verschärfter Beobachtung

Der ASAT-Vorfall ist kein Einzelfall. Mehrere Studien und Untersuchungen haben anhaltende Probleme mit KI-gesteuerten Recruiting-Tools dokumentiert:

• Eine Stanford-HAI-Studie vom Juli 2026 analysierte 4 Millionen Bewerbungen bei über 150 Arbeitgebern und fand heraus, dass KI-Recruiting-Tools in großem Umfang zu rassisch bedingten Ungleichheiten führen können. Die Forscher fanden heraus, dass 15 % der asiatischen und 26 % der schwarzen Bewerber wiederholt für mehrere Stellen abgelehnt wurden – ein Muster, das auf systemische Verzerrung hindeutet .
• Eine Bloomberg-Analyse zeigte, dass OpenAI’s GPT-3.5, wenn es 1.000 Mal gebeten wurde, Lebensläufe zu bewerten, systematisch Namen bestimmter Bevölkerungsgruppen bevorzugte – und zwar in einem Ausmaß, das die Standards zur Beurteilung von Diskriminierung bei der Einstellung verfehlt hätte .
• Forschung der University of Melbourne ergab, dass KI-Bewerbungssoftware möglicherweise Kandidaten mit Kopftuch, solche mit Namen, die als „schwarz“ wahrgenommen werden, und Personen, die Nachteilsausgleiche beantragen, benachteiligt .
• Eine Prüfung des britischen Information Commissioner’s Office (ICO) stellte fest, dass einige KI-Recruiting-Tools Bewerber auf der Grundlage geschützter Merkmale wie Rasse, Geschlecht und sexueller Orientierung filtern .

Google selbst verkauft KI-gestützte Personal-Tools an Firmenkunden und verspricht schnellere und objektivere Vorauswahl . Der ASAT-Vorfall untergräbt diese Marketing-Botschaft, indem er implizit eingesteht, dass die eigenen Filter des Unternehmens fehleranfällig sind.

Die Reaktion von Google DeepMind

DeepMind bestritt die Darstellung, dass die gesamten Recruiting-Systeme des Unternehmens defekt seien. Ein Sprecher bezeichnete das Umgehungsformular lediglich als „Effizienzmaßnahme“ für stark nachgefragte Rollen . Allerdings deutet die Sprache des internen Dokuments – mit der Warnung vor falscher Vorauswahl und der Aufforderung zur Geheimhaltung – darauf hin, dass das Team das Problem für so gravierend hält, dass es einen Workaround für notwendig erachtet .

Fazit

Die Situation offenbart eine Glaubwürdigkeitslücke: Ausgerechnet das Team, das Google beschäftigt, um Fehlentwicklungen der KI zu erforschen und zu verhindern, traut den KI-Systemen nicht, die Google für die Vorauswahl seiner eigenen zukünftigen Mitarbeiter einsetzt. Diese Dissonanz hat breite Aufmerksamkeit erregt, da sie zeigt, wie ein KI-Entwickler implizit die Grenzen und Risiken genau der Technologie einräumt, die er selbst baut und verkauft. Wie es eine Analyse zusammenfasste: „Das Team, das für die Sicherheit fortgeschrittener KI zuständig ist, traut der KI seines eigenen Arbeitgebers nicht zu, Lebensläufe zu lesen“ .