Meta's Toezichtsraad eist verwijdering van AI-seksdeepfake en dringt aan op betere bescherming van gewone burgers

Belangrijkste beleidswijzigingen die de raad van Meta eist

De uitspraak van de raad ging verder dan deze ene zaak. Er werden zowel bindende als niet-bindende aanbevelingen gedaan om de manier waarop Meta omgaat met AI-gegenereerde seksuele content, vooral voor niet-publieke figuren, grondig te herzien . De belangrijkste wijzigingen zijn:

AI-nabootsing standaard als niet-consensueel behandelen

De raad stelde expliciet dat AI-gegenereerde nabootsingen in seksuele contexten "standaard als niet-consensueel" moeten worden beschouwd en beval aan deze toe te voegen aan Meta's beleid inzake seksuele uitbuiting van volwassenen . Dit verschuift de bewijslast van slachtoffers – die nu vaak zelf moeten aantonen dat er geen toestemming was – naar het platform, dat de inherente schade van dergelijke content moet erkennen .

Vertrouwde contacten laten melden namens slachtoffers

Een belangrijke procedurele verandering is dat gebruikers "verbonden accounts" kunnen aanwijzen – zoals vertrouwde vrienden of familieleden – die namens het slachtoffer mogelijke overtredingen, zoals niet-consensuele intieme beelden, kunnen melden . Dit lost een groot probleem op: slachtoffers zijn zich soms niet eens bewust van de content of durven deze vanwege trauma of angst niet zelf te melden.

Een wereldwijde meldcategorie voor AI-seksueel beeldmateriaal

De raad drong er bij Meta op aan een aparte, wereldwijde meldcategorie te creëren voor AI-gegenereerde niet-consensuele seksuele beelden, in plaats van de huidige classificatie onder een algemene regel voor pesten en intimidatie . Dit maakt meldingen eenvoudiger in te dienen en te volgen.

Terminologie aanpassen: van "denigrerende seksuele photoshop" naar "niet-consensuele" gemanipuleerde media

De raad had eerder al kritiek geuit op Meta's verouderde terminologie, die termen gebruikte als "denigrerende seksuele photoshop" . De raad beveelt aan om de regels te updaten met duidelijkere, nauwkeurigere termen die de moderne realiteit van AI-misbruik weerspiegelen, met de nadruk op het niet-consensuele karakter van de content in plaats van de methode waarmee deze is gemaakt .

Content Credentials op schaal implementeren en detectie verbeteren

In een gerelateerde zaak over AI-content riep de raad Meta ook op om schaalbare tools te ontwikkelen voor het identificeren van AI-gegenereerde content, waaronder de invoering van de C2PA Content Credentials-standaard – een herkomststandaard die de oorsprong en wijzigingen van media bijhoudt . De raad stelde vast dat Meta's huidige systemen te veel leunen op zelfrapportage door gebruikers en te weinig robuuste geautomatiseerde detectie hebben, met name voor video en audio .

Focus op bescherming van niet-publieke personen

Een centraal thema in de uitspraak was de beschermingskloof voor gewone, niet-publieke mensen. De raad benadrukte dat niet-publieke figuren die het doelwit zijn van seksuele deepfakes extra worden benadeeld door systemen die van hen eisen dat ze zelf het gebrek aan toestemming bewijzen, omdat zij vaak niet de publieke zichtbaarheid of institutionele steun hebben die publieke figuren wel genieten . De zaak zelf draaide om een AI-gegenereerde seksuele nabootsing van een vrouw, gemeld door een vriendin die stelde dat de content niet-consensueel was en de reputatie van de vrouw schaadde .

Aanpak van gendergerelateerd geweld

De raad erkende in zijn besluit ook de onevenredige schade die deepfakes toebrengen aan vrouwen en meisjes. Door te pleiten voor sterkere geautomatiseerde detectie, een verschuiving van de bewijslast en duidelijkere regels, wil de raad het systemische karakter van online gendergerelateerd misbruik aanpakken .

Vervolgstappen voor Meta

Meta moet binnen 60 dagen reageren op de aanbevelingen van de Toezichtsraad . De aanbeveling om de specifieke video te verwijderen is bindend; de bredere beleidsaanbevelingen zijn dat niet, maar hebben aanzienlijk publiek en reputatiegewicht . De uitspraak bouwt voort op eerdere beslissingen van de raad uit 2024 en 2025, waarin Meta's deepfake-beleid als "incoherent" en "onvoldoende duidelijk" werd bestempeld .