Meta aprovou anúncios pagos com imagens de abuso sexual infantil geradas por IA — e a Índia exigiu respostas

O Tech Transparency Project (TTP) identificou de forma independente mais de 50 desses anúncios em vídeo e imagem dentro da própria Biblioteca de Anúncios pública da Meta, publicados entre novembro de 2025 e agosto de 2026. Vários desses anúncios continham links para os chamados aplicativos de "nudificação" ("nudify"), que geram imagens sexualizadas não consensuais . Os anúncios atingiram coletivamente milhares de contas nos EUA, Reino Unido e em mais de uma dúzia de países europeus .

Como os próprios sistemas da Meta falharam

As normas de publicidade da Meta proíbem explicitamente anúncios que contenham CSAM ou promovam aplicativos de nudificação . No entanto, os anúncios foram descobertos usando as próprias ferramentas de transparência da Meta. Pesquisadores do TTP descobriram que alguns anúncios estavam vinculados à GatherOne Inc., sediada em Pequim, uma parceira de publicidade aprovada pela Meta, que havia veiculado aproximadamente 7.600 anúncios para aplicativos de nudificação por IA no Facebook e Instagram . O TTP identificou 210 páginas do Facebook ligadas à GatherOne, com 85 dessas páginas ainda ativas no momento da reportagem .

A Meta declarou posteriormente que a maioria dos anúncios teve alcance mínimo e foi desativada após revisão, atribuindo a falha a sistemas de detecção que são anteriores às suas ferramentas de moderação de IA mais recentes .

A resposta regulatória rápida da Índia

O governo indiano reagiu de forma agressiva às revelações. Após uma investigação separada da BBC Eye, que descobriu que o Instagram veiculava anúncios pagos promovendo explicitamente CSAM — usando termos de busca como "vídeo de estupro" e "vídeo infantil" que levavam a canais do Telegram — o Ministério de Eletrônica e Tecnologia da Informação da Índia (MeitY) tomou várias medidas:

• O Ministro de TI, Ashwini Vaishnaw, determinou que o MeitY convocasse a Meta para uma explicação formal .
• O MeitY emitiu uma notificação formal ordenando que a Meta desabilitasse imediatamente todos os anúncios e conteúdos no Instagram que promovessem ou facilitassem o acesso a Material de Abuso e Exploração Sexual Infantil (CSEAM, na sigla em inglês) .
• A Meta recebeu sete dias para fornecer uma explicação detalhada ou enfrentar ações legais, incluindo possíveis penalidades sob o IT Act indiano e a lei POCSO .
• O governo exigiu especificamente que a Meta explicasse como seu sistema de revisão de anúncios aprovou tal conteúdo para distribuição paga .

A proibição prospectiva da União Europeia

A resposta regulatória da UE foi estrutural e legislativa, em vez de uma ação de execução específica contra a Meta por esses anúncios. O AI Act da UE agora inclui uma nova disposição que proibirá a geração de CSAM a partir de 2 de dezembro de 2026 . Isso tem como alvo direto o material de abuso gerado por IA, como o do relatório da WIRED.

O AI Act também impõe obrigações aos implantadores e provedores de ferramentas de IA para garantir segurança e transparência, e exige que o conteúdo gerado por IA seja identificável . Separadamente, a Comissão Europeia já havia multado a Meta em €200 milhões em abril de 2025 por não conformidade com o Digital Markets Act em relação ao seu modelo de publicidade "Consentir ou Pagar", embora essa ação não estivesse diretamente relacionada ao CSAM .

O que isso significa

As duas investigações revelam uma falha sistêmica na infraestrutura de revisão de anúncios da Meta. Apesar de políticas claras, o CSAM gerado por IA passou despercebido por meses em várias plataformas. A resposta rápida da Índia — um ultimato de 7 dias — sinaliza uma crescente impaciência dos governos com a autorregulação das plataformas. A proibição da UE, por sua vez, estabelece um precedente global ao proibir a própria geração de CSAM, e não apenas sua distribuição.