Sagen: En AI-genereret video uden samtykke

En bruger appellerede til tilsynsrådet efter at have anmeldt et opslag, som ifølge brugeren var en AI-genereret, ikke-samtykkende seksualiseret video, der efterlignede en af brugerens venner og skadede den pågældendes omdømme . Meta havde først vurderet, at opslaget kunne blive oppe, da der ikke var tegn på manglende samtykke . Rådet omstødte denne afgørelse og krævede videoen fjernet straks .

De vigtigste politiske ændringer, rådet kræver

Tilsynsrådets kendelse gik langt ud over den konkrete sag og indeholdt flere centrale anbefalinger til, hvordan Meta skal håndtere AI-genereret seksualiseret indhold, især når det rammer almindelige mennesker :

AI-genereret efterligning betragtes som ikke-samtykkende som udgangspunkt

Rådet slog fast, at AI-genererede efterligninger i seksualiserede sammenhænge skal betragtes som "ikke-samtykkende som udgangspunkt" og anbefalede, at de tilføjes til Metas politik for voksen seksuel udnyttelse . Dette flytter bevisbyrden væk fra ofrene, der i dag ofte selv skal dokumentere manglende samtykke .

Tillad betroede kontakter at anmelde på vegne af ofre

En væsentlig proceduremæssig ændring er, at brugere skal kunne udpege "forbundne konti" – eksempelvis betroede venner eller familiemedlemmer – som kan anmelde potentielle overtrædelser som ikke-samtykkende intime billeder på vegne af offeret . Dette løser et centralt problem, hvor ofre måske ikke er klar over indholdet eller ikke selv er i stand til at anmelde det på grund af traumer eller frygt.

Opret en global anmeldelseskategori for AI-genereret seksualiseret billedmateriale

Rådet opfordrede Meta til at oprette en dedikeret, global anmeldelseskategori specifikt for AI-genereret ikke-samtykkende seksualiseret billedmateriale . I dag klassificeres sådanne sager ofte under en mere generel regel om mobning og chikane, hvilket gør det sværere at indberette og følge op på .

Opdater terminologi fra "nedsættende seksualiseret photoshop" til "ikke-samtykkende" manipuleret medie

Rådet har tidligere kritiseret Metas forældede terminologi, som bruger vendinger som "nedsættende seksualiseret photoshop" . Rådet anbefaler at opdatere Metas regler med tydeligere og mere præcise begreber, der afspejler den moderne virkelighed med AI-genereret misbrug og lægger vægt på indholdets ikke-samtykkende karakter frem for metoden bag skabelsen .

Implementer indholdslegitimationsoplysninger i stor skala og forbedr detektion

I en relateret AI-indholdssag opfordrede rådet også Meta til at implementere skalerbare værktøjer til at identificere AI-genereret indhold, herunder vedtagelse af C2PA Content Credentials-standarden – en standard for at spore oprindelse og ændringer af medier . Rådet fandt, at Metas nuværende systemer i for høj grad er afhængige af, at brugerne selv deklarerer AI-indhold, og at der mangler robust automatisk detektion, især for video og lyd .

Fokus på beskyttelse af ikke-offentlige personer

Et centralt tema i kendelsen var beskyttelsesgabet for almindelige borgere. Rådet understregede, at ikke-offentlige personer, der rammes af seksualiserede deepfakes, er særligt sårbare, fordi systemer i dag kræver, at de selv beviser manglende samtykke . De mangler ofte den offentlige synlighed eller institutionelle støtte, som kendte personer har . Sagen handlede netop om en AI-genereret seksualiseret efterligning af en kvinde, anmeldt af en ven, der udtalte, at indholdet var ikke-samtykkende og skadeligt for omdømmet .

Kønsskævhed i skadevirkningerne

Rådets afgørelse anerkendte også den uforholdsmæssige skade, disse deepfakes påfører kvinder og piger. Ved at kræve stærkere automatisk detektion, en ændring af bevisbyrden og tydeligere politikker sigtede rådet mod at adressere den systemiske karakter af kønsbaseret online-misbrug .

Næste skridt for Meta

Meta er forpligtet til at svare på tilsynsrådets anbefalinger inden for 60 dage . Mens rådets beslutning om at fjerne den specifikke video er bindende, er de bredere politiske anbefalinger ikke bindende, men de bærer betydelig offentlig og omdømmemæssig vægt . Kendelsen bygger på tidligere rådsafgørelser i 2024 og 2025, der fandt Metas deepfake-politikker "usammenhængende" og "ikke tilstrækkeligt klare" .

Sagen: En AI-genereret video uden samtykke

En bruger appellerede til tilsynsrådet efter at have anmeldt et opslag, som ifølge brugeren var en AI-genereret, ikke-samtykkende seksualiseret video, der efterlignede en af brugerens venner og skadede den pågældendes omdømme . Meta havde først vurderet, at opslaget kunne blive oppe, da der ikke var tegn på manglende samtykke . Rådet omstødte denne afgørelse og krævede videoen fjernet straks .

De vigtigste politiske ændringer, rådet kræver

Tilsynsrådets kendelse gik langt ud over den konkrete sag og indeholdt flere centrale anbefalinger til, hvordan Meta skal håndtere AI-genereret seksualiseret indhold, især når det rammer almindelige mennesker :

AI-genereret efterligning betragtes som ikke-samtykkende som udgangspunkt

Rådet slog fast, at AI-genererede efterligninger i seksualiserede sammenhænge skal betragtes som "ikke-samtykkende som udgangspunkt" og anbefalede, at de tilføjes til Metas politik for voksen seksuel udnyttelse . Dette flytter bevisbyrden væk fra ofrene, der i dag ofte selv skal dokumentere manglende samtykke .

Tillad betroede kontakter at anmelde på vegne af ofre

En væsentlig proceduremæssig ændring er, at brugere skal kunne udpege "forbundne konti" – eksempelvis betroede venner eller familiemedlemmer – som kan anmelde potentielle overtrædelser som ikke-samtykkende intime billeder på vegne af offeret . Dette løser et centralt problem, hvor ofre måske ikke er klar over indholdet eller ikke selv er i stand til at anmelde det på grund af traumer eller frygt.

Opret en global anmeldelseskategori for AI-genereret seksualiseret billedmateriale

Rådet opfordrede Meta til at oprette en dedikeret, global anmeldelseskategori specifikt for AI-genereret ikke-samtykkende seksualiseret billedmateriale . I dag klassificeres sådanne sager ofte under en mere generel regel om mobning og chikane, hvilket gør det sværere at indberette og følge op på .

Opdater terminologi fra "nedsættende seksualiseret photoshop" til "ikke-samtykkende" manipuleret medie

Rådet har tidligere kritiseret Metas forældede terminologi, som bruger vendinger som "nedsættende seksualiseret photoshop" . Rådet anbefaler at opdatere Metas regler med tydeligere og mere præcise begreber, der afspejler den moderne virkelighed med AI-genereret misbrug og lægger vægt på indholdets ikke-samtykkende karakter frem for metoden bag skabelsen .

Implementer indholdslegitimationsoplysninger i stor skala og forbedr detektion

I en relateret AI-indholdssag opfordrede rådet også Meta til at implementere skalerbare værktøjer til at identificere AI-genereret indhold, herunder vedtagelse af C2PA Content Credentials-standarden – en standard for at spore oprindelse og ændringer af medier . Rådet fandt, at Metas nuværende systemer i for høj grad er afhængige af, at brugerne selv deklarerer AI-indhold, og at der mangler robust automatisk detektion, især for video og lyd .

Fokus på beskyttelse af ikke-offentlige personer

Et centralt tema i kendelsen var beskyttelsesgabet for almindelige borgere. Rådet understregede, at ikke-offentlige personer, der rammes af seksualiserede deepfakes, er særligt sårbare, fordi systemer i dag kræver, at de selv beviser manglende samtykke . De mangler ofte den offentlige synlighed eller institutionelle støtte, som kendte personer har . Sagen handlede netop om en AI-genereret seksualiseret efterligning af en kvinde, anmeldt af en ven, der udtalte, at indholdet var ikke-samtykkende og skadeligt for omdømmet .

Kønsskævhed i skadevirkningerne

Rådets afgørelse anerkendte også den uforholdsmæssige skade, disse deepfakes påfører kvinder og piger. Ved at kræve stærkere automatisk detektion, en ændring af bevisbyrden og tydeligere politikker sigtede rådet mod at adressere den systemiske karakter af kønsbaseret online-misbrug .

Næste skridt for Meta

Meta er forpligtet til at svare på tilsynsrådets anbefalinger inden for 60 dage . Mens rådets beslutning om at fjerne den specifikke video er bindende, er de bredere politiske anbefalinger ikke bindende, men de bærer betydelig offentlig og omdømmemæssig vægt . Kendelsen bygger på tidligere rådsafgørelser i 2024 og 2025, der fandt Metas deepfake-politikker "usammenhængende" og "ikke tilstrækkeligt klare" .