TTP: Meta distribuovala stovky placených reklam s podezřelým AI obsahem sexuálního zneužívání dětí

Organizace Tech Transparency Project (TTP) ve zprávě z 8. září uvedla, že reklamní systémy společnosti Meta distribuovaly na Facebooku a Instagramu 332 placených reklam obsahujících podezřelý materiál sexuálního zneužívání dětí vytvořený nebo upravený pomocí umělé inteligence. Reklamy běžely od listopadu 2025 do srpna 2026 a podle dostupných údajů oslovily více než 29 000 uživatelů. TTP zároveň upozorňuje, že veřejná Knihovna reklam Mety neposkytuje úplný obraz o doručení reklam, zejména mimo oblasti s podrobnějšími zveřejňovacími pravidly. 69

Co TTP v reklamách našla

Podle TTP reklamy využívaly AI generované či AI upravené snímky k sexualizaci dětí a často odkazovaly na aplikace typu „nudify“ nebo na nástroje pro tvorbu deepfake obsahu. Pojem „nudify“ označuje aplikace, které digitálně upravují obraz osoby tak, aby vytvořily explicitní či intimní snímek bez jejího souhlasu. Organizace uvedla, že některé použité obrazy zřejmě vycházely z fotografií skutečných dětí, včetně nezletilého člena evropské královské rodiny. 910

Reklamy se objevily v Evropské unii a Spojeném království, ve Spojených státech, Indii i Austrálii. TTP identifikovala 84 reklam v Indii a 120 reklam cílených na uživatele v Austrálii; největší část zjištěných reklam měla běžet v EU a Spojeném království. 112

TTP spojila řadu reklam s vývojáři AI aplikací a s čínskou sítí reklamních zprostředkovatelů Mety. Zpráva jmenovala mimo jiné společnosti GIMC a BlueFocus, zatímco další zpravodajství popisovalo velkou část reklam jako propagaci deepfake aplikací typu „nudify“. 96

Proč je podstatné, že šlo o placenou reklamu

Jádrem případu není pouze výskyt závadného obsahu na sociální síti. Šlo o placené reklamy — tedy materiál, který měl podle zjištění TTP projít procesem přijímání a kontroly reklam, než jej systém začal doručovat uživatelům.

TTP tvrdí, že případ odhaluje selhání jak při kontrole samotných reklamních kreativ, tak při prověřování inzerentů. Velká část obrazového materiálu podle organizace nebyla skrytá za neurčitými formulacemi či nenápadnými vizuálními znaky, ale byla zjevná. TTP také uvedla, že Meta zpočátku 113 odstraněných reklam zařadila pod pravidla týkající se sexuálního obsahu pro dospělé nebo pod obecné kategorie. Až po upozornění TTP měla oznámení změnit na klasifikaci týkající se vykořisťování dětí. 9

Tato kategorizace má význam i pro transparentnost. Pokud platforma zakázané reklamy nezařazuje důsledně jako obsah spojený s vykořisťováním dětí, veřejně dostupné údaje o odstraňování nemusí podle TTP přesně ukazovat rozsah ani povahu problému. 9

Reakce Mety a odstraňování reklam

Mluvčí Mety Andy Stone uvedl, že společnost zakazuje aplikace typu „nudify“ i jakékoli vykořisťování dětí, „ať už jde o skutečný, nebo AI generovaný obsah“. Dodal, že lidé snažící se obcházet pravidla průběžně mění své postupy a Meta proto musí nadále zlepšovat odhalování a vymáhání pravidel. 3

Meta zároveň sdělila, že mnoho reklam mělo omezený zásah, některé byly vypnuty ještě před upozorněním zvenčí a část z nich se objevila před zavedením novějších nástrojů určených k zachycení a zablokování závadných AI reklam při nahrání. 11

Podle TTP Meta do 1. září odstranila 183 z 332 reklam. Poté, co jí TTP 2. září předala svá zjištění, společnost odstranila zbývajících 149 reklam a 113 dalších případů překlasifikovala podle pravidel pro vykořisťování dětí. 9

TTP však uvedla, že v následujících dnech dál nacházela podobné reklamy, včetně jedné související s nezletilým členem evropské královské rodiny. Odstranění identifikovaných reklam proto samo o sobě nedokazuje, že byl vyřešen problém v mechanismu kontroly a schvalování. 9

Rostoucí právní a politický tlak

Zpráva přichází v době širšího zkoumání přístupu Mety k bezpečnosti mladých uživatelů. TTP své zjištění spojila i s možným vyrovnáním ve výši 18 miliard dolarů s generálními prokurátory amerických států v kauze, v níž se řeší tvrzení o škodách způsobovaných mladým lidem produkty společnosti. 9

Americký senátor Mark Warner se již dříve Mety ptal, jak mohly reklamy s vykořisťujícím obsahem projít jejími systémy. Upozornil také, že veřejná Knihovna reklam Mety nenabízela uživatelům možnost takové reklamy přímo nahlásit. 17

V Indii si po zprávách o placených instagramových reklamách, které měly propagovat nebo usnadňovat přístup k materiálu sexuálního zneužívání dětí, vyžádala vyjádření od vládních ministerstev a policie Národní komise pro lidská práva. 2218

Jak TTP reklamy nahlásila

TTP uvedla, že každou z identifikovaných reklam nahlásila americkému Národnímu centru pro pohřešované a zneužívané děti (NCMEC), včetně podání prostřednictvím systému CyberTipline. Tento kanál umožňuje posoudit podezření na online vykořisťování dětí a případně předat relevantní informace orgánům činným v trestním řízení. 93

Hlavní závěr zprávy je, že ochrana před zneužitím AI nemůže stát jen na moderování obsahu poté, co se objeví online. U placené reklamy je klíčový zásah ještě před jejím zveřejněním: prověřování inzerentů, kontrola kreativ, automatická detekce, správná klasifikace porušení pravidel a rychlá reakce na odhalené zneužití.