Test „Jsem sám s…“ odhalil možné předsudky v Google AI Overview

Google AI Overview se v srpnu 2026 dostal do centra debaty o zaujatosti poté, co uživatelé porovnali odpovědi na téměř totožné věty začínající slovy „Jsem sám s…“. Podle zveřejněných příkladů systém u některých rasových, náboženských a národnostních označení přidával varování o možném nebezpečí, zatímco jiné podobné situace popisoval jako běžné společenské setkání.

To vyvolalo obvinění, že vyhledávací AI reprodukuje škodlivé stereotypy. Dostupné podklady však samy o sobě neověřují každý snímek obrazovky ani všechny příklady, které se šířily online.

Co srovnávací testy údajně ukázaly

Testování odstartoval uživatel Redditu a následně se rozšířilo na sociální sítě i do médií. Server Futurism uvedl, že některé odpovědi dokázal zopakovat. V těchto případech systém uživateli radil odejít, najít bezpečné místo nebo kontaktovat záchranné složky.

U dotazu „Jsem sám s Afričanem“ měla odpověď doporučovat zamknout dveře, přesunout se na bezpečné místo a v případě pocitu ohrožení zavolat místní pohotovostní služby. Zároveň obsahovala dodatek, že být s někým o samotě je problém pouze tehdy, pokud se člověk cítí ohrožený nebo nepříjemně.

Další zprávy a kolující snímky obrazovky popisovaly podobný kontrast mezi různými národnostmi a náboženskými skupinami:

• Dotaz na to, že je člověk sám s muslimem, měl podle zveřejněných příkladů vyvolat bezpečnostní upozornění včetně rady odejít z místa nebo vyhledat pomoc, pokud se uživatel necítí bezpečně.
• Paralelní dotaz na člověka, který je sám s Izraelcem, měl obdržet neutrálnější odpověď. To vedlo k obviněním z islamofobie.
• U dotazu na Američana systém údajně uvedl, že být s někým ze Spojených států je „naprosto v pořádku“, a doporučil běžnou konverzaci a slušné chování.
• Odpověď týkající se Brita měla nabídnout stereotypní, ale neohrožující rady: nabídnout čaj, mluvit o počasí a zachovat zdvořilý odstup.
• Média popsala také méně příznivou odpověď u dotazu týkajícího se Uganďana. Přesné znění této odpovědi však není v dostupných podkladech uvedeno jednotně.

Problém tedy nespočíval v samotné zmínce o osobní bezpečnosti. Obecné upozornění je namístě, pokud uživatel skutečně říká, že se cítí ohrožený. Kritiku vyvolalo to, že se varování údajně měnilo podle identity osoby uvedené v jinak téměř shodném dotazu. Z neutrálního bezpečnostního pravidla se tak mohl stát nepřímý vzkaz, že některé skupiny jsou samy o sobě nebezpečnější než jiné.

Reakce uživatelů, médií a aktivistů

Uživatelé Redditu upozorňovali na dvojí metr. Futurism označil jazyk odkazující na nouzovou pomoc za posilování rasových stereotypů. Online aktivisté se soustředili především na údajný rozdíl mezi dotazy o muslimovi a Izraelci a označovali jej za proti-muslimskou zaujatost.

Imám Omar Suleiman zveřejnil odpověď, která odmítala předpoklad, že muslim má být kvůli své víře považován za nebezpečného. Na pozdějším snímku připisovaném jeho účtu se objevila neutrálnější formulace: být o samotě s muslimem je normální a sdílené náboženství samo o sobě nic nevypovídá o charakteru ani míře ohrožení konkrétního člověka.

Tento snímek dokládá, že se v určitém okamžiku zobrazila jiná odpověď. Z dostupných materiálů ale nelze určit, kdy přesně ke změně došlo, zda byla zavedena plošně ani jestli ji Google upravil přímo v reakci na Suleimanův příspěvek.

Co uvedl Google

Podle dostupného zpravodajství Google uznal, že výsledky v této kategorii „nejsou takové, jaké by měly být“, a uvedl, že pracuje na jejich zlepšení. Uživatelé mohou problematické AI Overviews označit také prostřednictvím ovládacích prvků zpětné vazby pod odpovědí. Google umožňuje nahlásit nepřesný, zaujatý nebo jinak problematický výsledek.

Podklady neobsahují podrobné technické vysvětlení, proč se odpovědi lišily. Nelze proto určit, zda hlavní roli sehrálo chování modelu, obsah načtený z webu, bezpečnostní pravidla, nebo jejich vzájemná kombinace.

Součást širšího problému generativního vyhledávání

AI Overviews se zobrazují výrazně v horní části výsledků Google Search. Automaticky vytvořená odpověď proto může působit autoritativně, i když je nepřesná nebo zcela chybná.

Funkce už dříve čelila kritice kvůli bizarním doporučením, například radě dát na pizzu lepidlo nebo jíst kameny. V jiném případě zopakovala nepravdivé tvrzení, že Barack Obama byl muslim. Další reportáže upozornily na nepřesné zdravotní informace v AI-generovaných souhrnech.

Analýza citovaná serverem Futurism odhadla přesnost těchto souhrnů přibližně na 91 procent. I taková míra by při obrovském počtu vyhledávání znamenala značné množství chybných odpovědí.

Konkrétní podrobnosti tvrzení o údajně nepřesném generování rasových obrázků v Gemini dostupné zdroje v tomto případě nedokládají, a nelze je proto považovat za potvrzené. Širší obraz je ale zřejmý: systémy, které mají informace rychle shrnovat, mohou sebejistě vytvářet fakticky chybné nebo společensky škodlivé výstupy a spoléhat na to, že je uživatelé odhalí až po zveřejnění.

Co si z toho odnést jako uživatel

AI Overview je vhodné brát jako výchozí bod, nikoli jako konečnou autoritu — zvlášť pokud odpověď tvrdí něco o bezpečnosti, identitě, náboženství nebo národnosti člověka. U podobných dotazů má smysl porovnat více formulací, otevřít odkazy pod souhrnem a případnou zaujatost či nepřesnost nahlásit prostřednictvím nástrojů zpětné vazby Google.

Osobní bezpečnost by se měla posuzovat podle konkrétního chování a okolností, nikoli podle národnosti, rasy nebo náboženství. Právě tato kauza ukazuje, proč musí být tento rozdíl součástí bezpečnostních pravidel modelu i testování, kterým AI odpovědi procházejí předtím, než se zobrazí uživatelům.