YouTube e X: os portais que levam milhões a sites de deepfake íntimo sem consentimento

Violações Diretas de Políticas. O relatório do ISD observa explicitamente que essas descobertas estão em "conflito direto" com as próprias políticas do YouTube, que proíbem conteúdo sexualmente explícito. Os pesquisadores descobriram que o conteúdo que viola essas políticas era "facilmente encontrável e acessível", transformando efetivamente a plataforma em um portal para o abuso ^M. Melanie Smith, diretora sênior de pesquisa e políticas do ISD, afirmou: "Não era apenas que o YouTube era uma fonte passiva de tráfego de referência. Em muitos desses casos, ele também estava facilitando o uso dessas ferramentas", e acrescentou que a aplicação das políticas existentes não é abrangente ^M.

X e Mecanismos de Busca como Pontos de Acesso. O relatório do ISD de 2025 documentou que o X foi responsável por 289.660 das 410.592 menções totais de palavras-chave relacionadas a ferramentas SIIA entre junho de 2020 e julho de 2025 — mais de 70% de toda a atividade, grande parte impulsionada por bots ⁴. Além disso, pesquisas simples no Google, Yahoo e Bing por termos como "deepnude", "nudify" e "undress app" geravam links diretos para ferramentas SIIA dentro dos primeiros 20 resultados orgânicos. O Bing exibia tais ferramentas como seu primeiro resultado para todas as três consultas ⁴.

O Baixo Custo e o Modelo de Negócios Lucrativo

O relatório do ISD destaca os fatores econômicos que impulsionam a proliferação dessas ferramentas.

Preço para os Agressores. As ferramentas de nudificação permitem que os usuários gerem conteúdo explícito por apenas US$ 1 por imagem, tornando o abuso acessível a uma ampla gama de perpetradores ^M.

Receita para as Plataformas. Uma investigação da WIRED, citada no relatório do ISD, estimou que essas plataformas geram coletivamente até US$ 36 milhões anualmente em receita ^M. Esse modelo lucrativo cria um forte incentivo financeiro para que os operadores mantenham seus serviços facilmente encontráveis.

Alvos Comuns e Motivações

A pesquisa detalha quem está sendo alvo e por quê, revelando padrões que vão além de motivações puramente sexuais.

Vítimas Principais. O ISD descobriu que os alvos comuns incluem namoradas e ex-namoradas e, de forma perturbadora, parentes como irmãs e primas ^M. Um contexto mais amplo de um estudo do Oxford Internet Institute (2025) constatou que, de quase 35.000 variantes de modelos deepfake disponíveis publicamente, 96% tinham como alvo mulheres ^E. Casos relacionados a deepfakes foram relatados em mais de 90 escolas em todo o mundo ^M.

Motivações Não Sexuais. As motivações por trás do abuso nem sempre são sexuais. Smith observou que "muitos dos pedidos eram sobre fazer com que as pessoas fossem demitidas de seus empregos e comprometer seus meios de subsistência de maneiras nefastas" ^M. Essa instrumentalização dos deepfakes para danos à reputação e profissionais representa uma forma particularmente insidiosa de abuso baseado em imagem.

Respostas Legislativas e Regulatórias

A escala do problema desencadeou uma resposta legislativa em múltiplas camadas, tanto em nível federal quanto estadual.

Federal: A Lei Take It Down. Sancionada em maio de 2025, a Lei TAKE IT DOWN (Tools to Address Known Exploitation by Immobilizing Technological Deepfakes on Websites and Networks Act) torna crime federal publicar ou ameaçar publicar, conscientemente, imagens íntimas não consensuais ^A. Seus requisitos de conformidade para plataformas entraram em pleno vigor em 19 de maio de 2026 ^F. As plataformas cobertas, incluindo redes sociais e aplicativos de mensagens, agora devem fornecer um processo para que as vítimas solicitem a remoção de imagens íntimas não consensuais (NCII) e devem remover o conteúdo — juntamente com quaisquer cópias idênticas conhecidas — em até 48 horas após uma solicitação válida, sob pena de sofrerem ações de execução pela Comissão Federal de Comércio (FTC) dos EUA ^FN.

Nível Estadual: A Proibição Pioneira de Minnesota. Minnesota se tornou o primeiro estado dos EUA a aprovar uma lei proibindo especificamente a tecnologia de "nudificação" ^C. Com vigência a partir de 1º de agosto de 2026, a lei proíbe qualquer pessoa que possua ou controle um site, aplicativo ou software de permitir que os usuários acessem, baixem ou usem tecnologia de nudificação ^H. A lei também permite que as vítimas entrem com ações civis contra os perpetradores ^H. O projeto foi aprovado com esmagador apoio bipartidário, incluindo uma votação unânime de 65 a 0 no Senado estadual ^D. As empresas que violarem a lei podem enfrentar penalidades civis de até US$ 500.000 por violação ^C.

Respostas das Plataformas e Lacunas na Aplicação. Em janeiro de 2026, o X enfrentou uma reação significativa depois que seu chatbot de IA, Grok, foi usado para gerar pelo menos 23.000 imagens sexualizadas de crianças e 1,8 milhão de mulheres durante um período de nove dias em dezembro de 2025 ^O. O X subsequentemente restringiu o acesso ao Grok apenas para usuários pagos ^M. O relatório do ISD pede respostas coordenadas e sistêmicas, incluindo regulamentação mais forte das plataformas e programas de alfabetização digital nas escolas ^M. O relatório também observa preocupações generalizadas sobre lacunas na aplicação: as políticas do YouTube nominalmente proíbem o link para conteúdo sexualmente explícito, mas o ISD descobriu que essas regras não estão sendo aplicadas de forma abrangente, permitindo que a plataforma permaneça como um portal primário para o abuso ^M.