Milestone-beslut: Metas granskningsnämnd tvingar bort AI-generad deepfake på Instagram

Viktiga policyförändringar som nämnden kräver av Meta

Nämndens beslut gick långt utöver det enskilda fallet och utfärdade flera bindande och icke-bindande rekommendationer för att göra om Metas hantering av AI-genererat sexualiserat innehåll, särskilt för icke-offentliga personer . De viktigaste förändringarna inkluderar:

Behandla AI-genererad imitation som samtyckeslös som standard

Nämnden uttalade uttryckligen att AI-genererade imitationer i sexualiserade sammanhang bör betraktas som ”samtyckeslösa som standard” och rekommenderade att de läggs till i Metas policy för vuxen sexuell exploatering . Detta flyttar bördan från offren – som tidigare själva måste bevisa att samtycke saknas – till plattformen, som istället ska inse den inneboende skadan i sådant innehåll .

Låt tillförlitliga kontakter anmäla på offrets vägnar

En viktig procedurförändring är att användare ska kunna utse ”anslutna konton” – till exempel betrodda vänner eller familjemedlemmar – som kan anmäla potentiella överträdelser som icke-samtyckeslig intim bildmaterial på offrets vägnar . Detta åtgärdar en central brist: offer kan vara omedvetna om innehållet eller oförmögna att själva anmäla på grund av trauma eller rädsla.

Skapa en global rapporteringskategori för AI-genererat sexualiserat bildmaterial

Nämnden krävde att Meta skapar en särskild, global rapporteringskategori för AI-genererat icke-samtyckesligt sexualiserat bildmaterial, i stället för dagens klassificering under en allmän regel om mobbning och trakasserier . Detta skulle göra anmälningar lättare att lämna in och följa upp.

Uppdatera terminologin från ”nedlåtande sexualiserad photoshop” till ”icke-samtyckesligt” manipulerat material

Nämnden har tidigare kritiserat Metas föråldrade terminologi, som använder uttryck som ”nedlåtande sexualiserad photoshop” . Nämnden rekommenderar att Metas regler uppdateras med tydligare, mer exakta termer som speglar den moderna verkligheten med AI-genererade övergrepp, med betoning på innehållets icke-samtyckesliga natur snarare än skapelsemetoden .

Implementera innehållsautentisering i stor skala och förbättra detektionen

I ett relaterat fall om AI-innehåll krävde nämnden också att Meta inför skalbara verktyg för att identifiera AI-genererat innehåll, inklusive att anta C2PA Content Credentials-standarden – en standard för att spåra ursprung och ändringar av media . Nämnden fann att Metas nuvarande system i alltför hög grad förlitar sig på användarnas egen rapportering och saknar robust automatisk detektion, särskilt för video och ljud .

Fokus på att skydda icke-offentliga personer

En central tematik i domen var skyddsgapet för vanliga, icke-offentliga människor. Nämnden betonade att privatpersoner som drabbas av sexualiserade deepfakes är särskilt utsatta när system kräver att de själva bevisar att samtycke saknas – eftersom de ofta saknar den offentliga synlighet eller institutionella stöd som offentliga personer har . Fallet i sig handlade om en AI-generad sexualiserad imitation av en kvinna, anmäld av en vän som uppgav att innehållet var samtyckeslöst och ryktesskadligt .

Könsbaserad skada i fokus

Nämndens beslut erkände också den oproportionerliga skada som dessa deepfakes orsakar kvinnor och flickor. Genom att kräva starkare automatisk detektion, en förändring av bevisbördan och tydligare policyer ville nämnden ta itu med den systematiska karaktären av könsbaserade övergrepp online .

Nästa steg för Meta

Meta måste svara på granskningsnämndens rekommendationer inom 60 dagar . Medan nämndens rekommendation att ta bort den specifika videon är bindande, är de bredare policyrekommendationerna inte bindande, men de har betydande offentlig och reputationsmässig tyngd . Domen bygger på tidigare nämndbeslut från 2024 och 2025 där man fann att Metas deepfake-policyer var ”inkoherenta” och ”inte tillräckligt tydliga” .