O caso: um vídeo falso que arruinou a reputação de uma mulher

Um usuário recorreu ao Conselho depois de denunciar uma postagem que, segundo ele, era um vídeo sexualizado criado por IA que se passava por uma amiga, sem o consentimento dela, e estava prejudicando a reputação da vítima . A Meta havia analisado o conteúdo e decidido mantê-lo no ar, alegando que não havia sinais de que fosse não consensual . O Conselho derrubou essa decisão e exigiu a remoção do vídeo .

As principais reformas que o Conselho quer que a Meta adote

A decisão foi além do caso individual e incluiu recomendações vinculantes e não vinculantes para reformular a forma como a Meta lida com conteúdo sexual gerado por IA, especialmente para pessoas que não são figuras públicas . As mudanças mais importantes incluem:

Tratar impersonação por IA como não consensual por padrão

O Conselho afirmou que impersonações criadas por IA em contextos sexuais devem ser consideradas 'não consensuais por padrão' e recomendou que esses casos sejam incluídos na política de Exploração Sexual de Adultos da Meta . Isso transfere o ônus da prova: em vez de a vítima ter que provar que não houve consentimento, a plataforma deve reconhecer o dano inerente desse tipo de conteúdo .

Permitir que amigos e familiares denunciem em nome da vítima

Uma mudança processual significativa: o Conselho quer que a Meta permita que os usuários designem 'contas conectadas' — como amigos de confiança ou familiares — que possam denunciar violações, como imagens íntimas não consensuais, em nome da vítima . Isso resolve um problema grave: muitas vítimas não sabem que o conteúdo existe ou não conseguem denunciá-lo por trauma ou medo.

Criar uma categoria global de denúncia para imagens sexuais geradas por IA

O Conselho pediu que a Meta crie uma categoria de denúncia global e dedicada para imagens sexuais não consensuais criadas por IA, em vez de classificá-las sob regras genéricas de bullying e assédio . Isso tornaria as denúncias mais fáceis de serem feitas e rastreadas.

Atualizar a terminologia: de 'photoshop sexualizado depreciativo' para 'mídia manipulada não consensual'

O Conselho já havia criticado a terminologia ultrapassada da Meta, que usava expressões como 'derogatory sexualized photoshop' (photoshop sexualizado depreciativo) . A recomendação é que a empresa adote termos mais claros e precisos, que reflitam a realidade moderna do abuso com IA, enfatizando a natureza não consensual do conteúdo, e não o método de criação .

Implementar credenciais de conteúdo em escala e melhorar a detecção

Em um caso relacionado a conteúdo de IA, o Conselho também pediu que a Meta implemente ferramentas escaláveis para identificar conteúdo gerado por IA, incluindo a adoção do padrão de credenciais de conteúdo C2PA — um padrão de proveniência que rastreia a origem e as modificações das mídias . O Conselho descobriu que os sistemas atuais da Meta dependem demais da autodenúncia pelos próprios usuários e carecem de detecção automatizada robusta, especialmente para vídeos e áudios .

Foco na proteção de pessoas comuns (não figuras públicas)

Um tema central da decisão foi a lacuna de proteção para pessoas comuns. O Conselho enfatizou que pessoas que não são figuras públicas e são alvo de deepfakes sexuais sofrem um dano desproporcional, especialmente porque os sistemas atuais exigem que elas provem que não houve consentimento — algo que figuras públicas conseguem fazer com mais facilidade por terem visibilidade e apoio institucional . O caso em questão envolvia a impersonação sexual gerada por IA de uma mulher comum, denunciada por um amigo que afirmou que o conteúdo era não consensual e prejudicial à reputação dela .

Enfrentando o dano de gênero

A decisão também reconheceu que esses deepfakes causam danos desproporcionais a mulheres e meninas . Ao pedir detecção automatizada mais forte, uma mudança no ônus da prova e políticas mais claras, o Conselho buscou enfrentar a natureza sistêmica do abuso online de gênero .

Próximos passos para a Meta

A Meta tem 60 dias para responder às recomendações do Conselho de Supervisão . Embora a recomendação de remover o vídeo específico seja vinculante, as recomendações políticas mais amplas não são, mas carregam um peso público e reputacional significativo . A decisão se baseia em decisões anteriores do Conselho, em 2024 e 2025, que consideraram as políticas de deepfake da Meta 'incoerentes' e 'não suficientemente claras' .

O caso: um vídeo falso que arruinou a reputação de uma mulher

Um usuário recorreu ao Conselho depois de denunciar uma postagem que, segundo ele, era um vídeo sexualizado criado por IA que se passava por uma amiga, sem o consentimento dela, e estava prejudicando a reputação da vítima . A Meta havia analisado o conteúdo e decidido mantê-lo no ar, alegando que não havia sinais de que fosse não consensual . O Conselho derrubou essa decisão e exigiu a remoção do vídeo .

As principais reformas que o Conselho quer que a Meta adote

A decisão foi além do caso individual e incluiu recomendações vinculantes e não vinculantes para reformular a forma como a Meta lida com conteúdo sexual gerado por IA, especialmente para pessoas que não são figuras públicas . As mudanças mais importantes incluem:

Tratar impersonação por IA como não consensual por padrão

O Conselho afirmou que impersonações criadas por IA em contextos sexuais devem ser consideradas 'não consensuais por padrão' e recomendou que esses casos sejam incluídos na política de Exploração Sexual de Adultos da Meta . Isso transfere o ônus da prova: em vez de a vítima ter que provar que não houve consentimento, a plataforma deve reconhecer o dano inerente desse tipo de conteúdo .

Permitir que amigos e familiares denunciem em nome da vítima

Uma mudança processual significativa: o Conselho quer que a Meta permita que os usuários designem 'contas conectadas' — como amigos de confiança ou familiares — que possam denunciar violações, como imagens íntimas não consensuais, em nome da vítima . Isso resolve um problema grave: muitas vítimas não sabem que o conteúdo existe ou não conseguem denunciá-lo por trauma ou medo.

Criar uma categoria global de denúncia para imagens sexuais geradas por IA

O Conselho pediu que a Meta crie uma categoria de denúncia global e dedicada para imagens sexuais não consensuais criadas por IA, em vez de classificá-las sob regras genéricas de bullying e assédio . Isso tornaria as denúncias mais fáceis de serem feitas e rastreadas.

Atualizar a terminologia: de 'photoshop sexualizado depreciativo' para 'mídia manipulada não consensual'

O Conselho já havia criticado a terminologia ultrapassada da Meta, que usava expressões como 'derogatory sexualized photoshop' (photoshop sexualizado depreciativo) . A recomendação é que a empresa adote termos mais claros e precisos, que reflitam a realidade moderna do abuso com IA, enfatizando a natureza não consensual do conteúdo, e não o método de criação .

Implementar credenciais de conteúdo em escala e melhorar a detecção

Em um caso relacionado a conteúdo de IA, o Conselho também pediu que a Meta implemente ferramentas escaláveis para identificar conteúdo gerado por IA, incluindo a adoção do padrão de credenciais de conteúdo C2PA — um padrão de proveniência que rastreia a origem e as modificações das mídias . O Conselho descobriu que os sistemas atuais da Meta dependem demais da autodenúncia pelos próprios usuários e carecem de detecção automatizada robusta, especialmente para vídeos e áudios .

Foco na proteção de pessoas comuns (não figuras públicas)

Um tema central da decisão foi a lacuna de proteção para pessoas comuns. O Conselho enfatizou que pessoas que não são figuras públicas e são alvo de deepfakes sexuais sofrem um dano desproporcional, especialmente porque os sistemas atuais exigem que elas provem que não houve consentimento — algo que figuras públicas conseguem fazer com mais facilidade por terem visibilidade e apoio institucional . O caso em questão envolvia a impersonação sexual gerada por IA de uma mulher comum, denunciada por um amigo que afirmou que o conteúdo era não consensual e prejudicial à reputação dela .

Enfrentando o dano de gênero

A decisão também reconheceu que esses deepfakes causam danos desproporcionais a mulheres e meninas . Ao pedir detecção automatizada mais forte, uma mudança no ônus da prova e políticas mais claras, o Conselho buscou enfrentar a natureza sistêmica do abuso online de gênero .

Próximos passos para a Meta

A Meta tem 60 dias para responder às recomendações do Conselho de Supervisão . Embora a recomendação de remover o vídeo específico seja vinculante, as recomendações políticas mais amplas não são, mas carregam um peso público e reputacional significativo . A decisão se baseia em decisões anteriores do Conselho, em 2024 e 2025, que consideraram as políticas de deepfake da Meta 'incoerentes' e 'não suficientemente claras' .