„Skutečný člověk to přečte“: Tým pro bezpečnost AI v Google DeepMind nevěří vlastním náborovým algoritmům

Jádro ironie

ASAT existuje proto, aby snižoval existenční a katastrofická rizika plynoucí z AGI a případně umělé superinteligence . Přesto interní pokyny týmu výslovně varují, že vlastním AI náborovým filtrům Googlu nelze věřit. Podle dokumentu, do kterého nahlédla agentura Bloomberg, tým uvádí: „Máme systém pro přihlášky, u kterého není zanedbatelná pravděpodobnost, že váš životopis bude chybně vyřazen nebo se k nám dostane příliš pozdě“ . Tým tak potenciálním zaměstnancům v podstatě říká: nespoléhejte na to, že vás AI naší společnosti dokáže kompetentně posoudit.

Obcházení vlastní AI společnosti

Interní dokument, který nese neobvyklé upozornění „PROSÍM, TENTO DOKUMENT ŠIROCE NESDÍLEJTE“, vede kandidáty na pozice v ASAT k vyplnění důvěrného interního formuláře . Formulář je navržen tak, aby se přihlášky dostaly přímo k lidským recenzentům, a nebyly vhozeny do automatického systému Googlu na třídění životopisů . Bloomberg uvedl, že účelem formuláře je eliminovat riziko, že „přihlášky mohou být automaticky vyřazeny interními AI systémy společnosti“ .

Varování před materiály vytvořenými AI

Pracovní nabídky ASAT na fóru Alignment Forum uvádějí: „Prosím, nepoužívejte k psaní přihlášky AI; chceme slyšet váš hlas“ . To vytváří vrstevnatý rozpor: tým nedůvěřuje systémům AI Googlu natolik, že je obchází, ale zároveň nedůvěřuje uchazečům, kteří k sepisování odpovědí používají AI chatovací nástroje – a to i přesto, že náplní práce ASAT je vyvíjet a dohlížet na pokročilé systémy AI.

Širší souvislosti: přezkum zaujatosti AI při náboru

Případ ASAT není ojedinělý. Řada studií a vyšetřování zdokumentovala přetrvávající problémy s nástroji pro nábor řízenými umělou inteligencí:

• Studie Stanford HAI z července 2026 analyzovala 4 miliony pracovních přihlášek u více než 150 zaměstnavatelů a zjistila, že AI náborové nástroje mohou ve velkém měřítku produkovat rasově rozdílné výsledky. Vědci zjistili, že 15 % asijských uchazečů a 26 % černošských uchazečů bylo opakovaně odmítnuto napříč několika pracovními místy – což je vzorec naznačující systémovou zaujatost .
• Analýza Bloombergu ukázala, že OpenAI GPT-3.5 při 1000násobném požadavku na seřazení životopisů systematicky upřednostňoval jména z některých demografických skupin před jinými, a to v míře, která by neprošla benchmarky používanými k posuzování diskriminace v zaměstnání .
• Výzkum z University of Melbourne zjistil, že software pro nábor pomocí AI může diskriminovat uchazeče nosící šátky, uchazeče s černošsky znějícími jmény a jednotlivce, kteří žádají o přizpůsobení pracovního místa z důvodu zdravotního postižení .
• Audit britského Úřadu komisaře pro informace (ICO) odhalil, že některé AI náborové nástroje filtrují uchazeče na základě chráněných charakteristik, jako je rasa, pohlaví a sexuální orientace .

Google sám prodává firemním klientům nástroje pro personalisty poháněné umělou inteligencí a slibuje rychlejší a objektivnější třídění . Kauza ASAT tento marketingový narušuje tím, že implicitně přiznává, že vlastní filtry společnosti jsou omylné.

Reakce Google DeepMind

DeepMind zpochybnil charakteristiku, že by jeho širší náborové systémy byly rozbité. Mluvčí popsal obchvatový formulář pouze jako „opatření ke zvýšení efektivity“ u rolí s velkým počtem uchazečů . Nicméně samotný jazyk interního dokumentu – varování před chybným tříděním a výzva k utajení – naznačuje, že tým považuje problém za natolik závažný, že vyžaduje řešení .

Závěr

Situace odhaluje propast v důvěryhodnosti: tým, který Google zaměstnává, aby zkoumal a chránil před selháním AI, sám nedůvěřuje systémům AI, které Google používá k třídění svých budoucích zaměstnanců. Tento rozpor přitáhl širokou pozornost jako reálný příklad toho, jak vývojář AI implicitně přiznává omezení a rizika technologie, kterou sám vyvíjí a prodává. Jak shrnula jedna analýza: „tým odpovědný za bezpečnost pokročilé AI nedůvěřuje AI svého vlastního zaměstnavatele, aby četla životopisy“ .