Meta schválila placené reklamy s AI generovaným materiálem zneužívajícím děti. Indie žádá vysvětlení

TTP nezávisle identifikovala více než 50 takových obrázkových a videoreklam přímo ve veřejné reklamní knihovně Meta. Reklamy se na platformách objevovaly mezi listopadem 2025 a srpnem 2026 a některé odkazovaly na takzvané „nudify" aplikace, tedy programy generující nelegální a neetický obsah . Tyto reklamy oslovily tisíce uživatelů nejen ve Spojených státech a Velké Británii, ale i ve více než tuctu evropských zemí včetně České republiky .

Selhání vlastních systémů Meta

Reklamní pravidla Meta výslovně zakazují jakýkoli obsah zneužívající děti, stejně jako propagaci „nudify" aplikací . Přesto reklamy propadly schvalovacím systémem. Výzkumníci z TTP narazili na to, že některé reklamy byly propojeny s pekingskou společností GatherOne Inc., která je oficiálním reklamním partnerem Meta. Tato čínská firma prostřednictvím Facebooku a Instagramu spustila přibližně 7 600 reklam na AI „nudify" aplikace . TTP identifikovala 210 facebookových stránek napojených na GatherOne, z nichž 85 bylo v době zveřejnění zprávy stále aktivních .

Meta se po zveřejnění výsledků šetření bránila tím, že naprostá většina reklam měla minimální dosah a byla po kontrole deaktivována. Firma za selhání označila své starší detekční systémy, které nestačí na nové hrozby generované umělou inteligencí .

Rázné jednání Indie

Indická vláda reagovala bleskově a nekompromisně. Impulsem bylo nejen šetření WIRED, ale také samostatné vyšetřování BBC Eye, které odhalilo, že Instagram zobrazoval placené reklamy explicitně propagující zneužívání dětí – včetně hesel jako „rape video" a „child video", které vedly na telegramové kanály .

Indické ministerstvo elektroniky a informačních technologií (MeitY) podniklo několik kroků:

• Ministr informatiky Ashwini Vaishnaw nařídil ministerstvu, aby si Meta předvolala k formálnímu vysvětlení .
• MeitY vydalo oficiální výzvu, v níž firmě nařizuje okamžitě deaktivovat všechny reklamy a obsah na Instagramu, který propaguje nebo usnadňuje přístup k materiálům se sexuálním vykořisťováním a zneužíváním dětí (CSEAM) .
• Meta má na podrobné vysvětlení sedm dní. Pokud jej neposkytne, hrozí jí právní kroky včetně sankcí podle indického IT zákona a zákona o ochraně dětí před sexuálními trestnými činy (POCSO) .
• Vláda se konkrétně ptá, jak je možné, že reklamní systém Meta propustil takový obsah k placené distribuci .

Evropská unie: Zákaz generování CSAM

Reakce Evropské unie je spíše strukturální a legislativní, nikoli okamžitá sankce vůči Meta. Klíčovým nástrojem se stává AI Act (Akt o umělé inteligenci), který od 2. prosince 2026 nově výslovně zakáže samotné generování materiálu zneužívajícího děti pomocí umělé inteligence . Tento krok přímo cílí na praktiky odhalené ve zprávě WIRED.

AI Act rovněž ukládá povinnosti všem, kdo systémy umělé inteligence vyvíjejí i nasazují, aby zajistili bezpečnost a transparentnost. Veškerý AI generovaný obsah musí být označen . Samostatně Evropská komise v dubnu 2025 udělila Meta pokutu 200 milionů eur za porušení pravidel digitálního trhu (Digital Markets Act) u modelu „Souhlas, nebo plať", tato sankce však s kauzou CSAM přímo nesouvisela .

Co to znamená?

Dvojice nezávislých šetření odhalila systémové selhání v kontrolních mechanismech Meta. I přes jasně nastavená pravidla dokázal obsah generovaný umělou inteligencí unikat schvalovacím procesům po celé měsíce napříč platformami. Rychlá a tvrdá odpověď Indie – sedmidenní ultimátum – signalizuje rostoucí netrpělivost vlád se samoregulací technologických gigantů. Evropská unie mezitím nastavuje globální precedens: nezakazuje jen distribuci, ale už samotné vytváření takového materiálu.