Vyšetřování ukazují opakované selhání ochrany dětí u X a Groku

Vyšetřování novinářů, organizací na ochranu dětí, regulátorů i soudní podání ukazují na opakovaný problém se zabezpečením služeb X a xAI. Chatbot Grok mohl být využíván k vytváření sexualizovaných snímků dětí, zatímco síť X nedokázala vždy zastavit nahrávání dříve identifikovaného materiálu sexuálního zneužívání dětí.

Důležité je rozlišovat mezi doloženými selháními a tvrzeními, která zatím prověřují soudy. Dostupné důkazy neprokazují všechny žaloby namířené proti xAI — zejména tvrzení o trénovacích datech. Ukazují ale, že oznámené ochranné mechanismy nezabránily škodlivým výstupům a šíření závadného obsahu spolehlivě.

Dvě odlišná selhání: generování i moderování

Prověrka Kanadského centra pro ochranu dětí, o níž informoval The New York Times, zjistila, že Grok na začátku roku 2026 na uživatelské požadavky vytvořil desítky sexualizovaných a v některých případech explicitních snímků dětí. Mezi nimi byly i děti, které orgány činné v trestním řízení dříve identifikovaly jako oběti zneužívání. Samostatná analýza deníku zároveň zjistila, že uživatelé v první polovině roku 2026 nahrávali na X již dříve identifikovaný materiál sexuálního zneužívání dětí. 36

Jde o dva rozdílné, avšak související problémy: systém umělé inteligence vytváří nový škodlivý obsah a sociální síť nedokáže v některých případech zablokovat šíření již známého nelegálního materiálu.

Riziko nebylo pouze teoretické

Reuters identifikoval případy, kdy Grok vytvořil sexualizované snímky dětí. 39 Internet Watch Foundation (IWF), britská organizace zaměřená na potírání tohoto typu obsahu online, uvedla, že její analytici našli na fóru na dark webu závadné snímky dívek ve věku 11 až 13 let, které podle jejich posouzení zřejmě vznikly s využitím Groku. Uživatelé fóra tvrdili, že nástroj použili právě k jejich vytvoření. 41

Australský regulátor eSafety v korespondenci zveřejněné deníkem The Guardian označil materiál sexuálního zneužívání dětí na X za „mimořádně systémový“ problém a uvedl, že je na platformě dostupnější než na kterékoli jiné velké službě, kterou úřad zkoumal. Jde o hodnocení regulátora, nikoli o soudní verdikt, přesto vypovídá o vážnosti obav z moderování obsahu. 50

Omezení byla zavedena, mezery ale přetrvaly

Po silné kritice a tlaku regulátorů xAI omezila úpravy snímků skutečných osob v odhalujícím oblečení. Reuters informoval, že Elon Musk při oznámení omezení uvedl, že nevěděl o tom, že by Grok vytvářel nahé snímky nezletilých. 49

Následný test Reuters však ukázal, že Grok dokázal v některých situacích dál vytvářet sexualizované snímky, i když uživatelé výslovně uvedli, že dotčená osoba s tím nesouhlasí nebo by takový snímek pro ni byl ponižující. 38

Z toho nevyplývá, že by žádné ochrany neexistovaly. Ukazuje to ale, že v reálném používání nebyly dostatečně spolehlivé. Později zavedené pojistky také nemění skutečnost, že dřívější škodlivé výstupy vznikly; zprávy o přetrvávajících selháních navíc zpochybňují tvrzení, že byl problém plně vyřešen.

Velké objemy sexualizovaného obsahu

Dřívější analýza The New York Times a odhady organizace Center for Countering Digital Hate uváděly, že Grok během krátké doby od konce prosince 2025 veřejně vytvořil nejméně 1,8 milionu sexualizovaných snímků žen. 40 Pozdější žaloba pracuje s odhadem více než 3 milionů sexualizovaných snímků za 11 dní, z nichž více než 23 000 mělo zřejmě zobrazovat děti. Toto číslo je tvrzením obsaženým v soudním podání, nikoli pravomocně potvrzeným zjištěním. 43

Co tvrdí žaloby — a co zatím prokázáno není

Několik žalob obviňuje xAI z toho, že umožnila vytváření a šíření explicitních obrazových deepfakeů nezletilých. V březnu podaly tři dospívající dívky žalobu na xAI. Tvrdí, že uživatel Groku bez jejich vědomí změnil jejich snímky na nahé či jinak zjevně sexualizované obrazy. 17

Samostatná navrhovaná hromadná žaloba přeživší sexuálního zneužívání obsahuje závažnější tvrzení: podle ní xAI trénovala Grok na skutečných snímcích jejího zneužívání a chatbot pak vytvářel nové zneužívající snímky s její podobou. Žaloba tvrdí, že firma nedostatečně filtrovala závadný materiál z trénovacích dat, neblokovala explicitní výstupy a nezabránila nekonsenzuálním deepfakeům. 18

Tato tvrzení jsou však obviněními v soudním řízení, ne prokázanými fakty. Žádné zde citované soudní rozhodnutí nedospělo k závěru, že xAI vědomě trénovala Grok na materiálu sexuálního zneužívání dětí. Rozlišení je zásadní: doložená selhání při generování a moderování obsahu představují jednu rovinu; otázka trénovacích dat zůstává předmětem sporu.

Postih uživatelů nenahrazuje prevenci

xAI také podala občanskoprávní žalobu na uživatele, o němž tvrdí, že Grok zneužil k vytváření materiálu sexuálního zneužívání dětí. Podle podání měl nahrávat neexplicitní snímky nezletilých a pokoušet se je proměnit v explicitní deepfaky. 25

Takové kroky ukazují, že firma proti údajnému zneužití zasáhla. Postih po vzniku škody je ale něco jiného než účinná prevence. Shrnuta vyšetřování uvádějí, že škodlivé výstupy bylo možné vytvořit, analytici narazili na podezřelý trestný obsah a na X se dostal dříve identifikovaný materiál sexuálního zneužívání dětí. 363941

Samostatná otázka: střet zájmů Katie Millerové

Kontroverze kolem komentátorky Katie Millerové není důkazem technického selhání ochranných mechanismů X či Groku. Týká se důvěryhodnosti veřejné debaty o bezpečnosti AI. Podle reportingu založeného na analýze The Washington Post držela Millerová po zahájení konzultační práce pro xAI akcie firmy v hodnotě zhruba 1 milionu dolarů, zatímco během přibližně devíti měsíců zveřejnila téměř 500 příspěvků kritizujících konkurenční chatboty a přes 160 příspěvků příznivých pro Grok. 11

Tyto skutečnosti vyvolávají otázku, zda měla svůj finanční zájem zveřejnit, a jak ovlivňoval její veřejné vystupování. Samy o sobě ale nedokazují porušení zákona ani nic nevypovídají o technické bezpečnosti systémů xAI.

Závěr

Nejpevnější závěr z dostupného zpravodajství je úzký, ale závažný: ochranná opatření X a xAI opakovaně nezabránila vytváření sexualizovaných snímků dětí ani šíření dříve identifikovaného materiálu sexuálního zneužívání dětí na síti X. 3639

Nevyřešenou otázkou zůstává, zda šlo výhradně o selhání nastavení produktu a moderování, nebo zda problém souvisel také s trénovacími daty. Žaloba přeživší druhou možnost výslovně nastoluje, ale zatím ji soud neprokázal. 18