Metas kinesiske annoncepartner stod bag over 7.600 forbudte “nudify”-annoncer

Appsene kan blandt andet digitalt fjerne tøjet fra billeder af kvinder, placere deres ansigter på nøgne kroppe eller indsætte dem i pornografiske videoer. Det er funktioner, der direkte strider mod Metas regler om ikke-samtykkebaserede intime billeder, nøgenhed og uægte adfærd på platformene .

Et omfattende annoncenetværk

TTP baserede undersøgelsen på oplysninger fra Metas egen annoncebibliotek. Rapporten fandt blandt andet:

• Over 7.600 annoncer for AI-apps, der kan få kvinder til at fremstå nøgne på manipulerede billeder .
• 210 Facebook-sider, hvor GatherOne stod angivet som annoncør og betaler .
• 179 sider – svarende til 85 procent – havde kørt annoncer, som Meta senere fjernede på grund af brud på regler om seksuel udnyttelse af voksne, seksuel solicitering eller nøgenhed .
• Flere annoncer viste kvinder, der klædte sig af eller simulerede sexhandlinger, hvilket ifølge rapporten overtrådte Metas standarder for seksuelt antydende indhold .
• Brugere havde i anmeldelser af mindst én af de promoverede apps markeret materiale, der tilsyneladende kunne være seksuelt misbrugsmateriale af børn .

Ifølge TTP ramte annoncerne tre forskellige regelsæt hos Meta: forbuddet mod at reklamere for apps, der skaber ikke-samtykkebaserede intime billeder, forbuddet mod nøgenhed og seksuelt antydende reklamer samt reglerne mod uægte adfærd, herunder falske konti .

Hvorfor GatherOne er centralt i sagen

GatherOne er ikke blot en tilfældig ekstern annoncør. Selskabet er en af kun 11 officielt godkendte såkaldte “top-tier”-annonceforhandlere i Kina, som er udvalgt af Meta .

Facebook og Instagram er blokeret i Kina, men kinesiske virksomheder kan stadig nå brugere i resten af verden gennem lokale mellemled som GatherOne. Forbindelsen til GatherOne blev dokumenteret gennem Metas annoncebibliotek, hvor kontiene angav selskabet som både annoncør og betaler .

TTP skriver desuden, at GatherOne samlet står bag mere end 30.000 annoncer om måneden. Det kan være en del af forklaringen på, at Metas kontrolsystemer ikke fik lukket hele netværket tidligere, selv om mange af annoncerne senere blev fjernet .

Meta: Vi tager “aggressive skridt”

Meta svarede ikke direkte på TTP’s spørgsmål, men oplyste til Bloomberg, at selskabet tager “aggressive skridt” mod “nudify”-apps. Ifølge Meta kan annoncører, der ikke overholder reglerne, få deres annoncer annulleret, blive mødt med økonomiske sanktioner og få deres annoncekonti lukket .

Cindy Southworth, der er chef for Metas politik for kvinders sikkerhed, sagde:

“Vi tillader ikke ikke-samtykkebaserede intime billeder eller ‘nudify’-apps på vores platform, og vi tager aggressive skridt for at bekæmpe dem” .

Meta havde allerede i juni 2025 sagsøgt skaberne af CrushAI-apps og annonceret ny teknologi til at opdage denne type indhold . TTP’s rapport peger dog på, at indsatsen ikke forhindrede annoncer fra at blive placeret gennem en af Metas egne autoriserede kinesiske partnere.

GatherOne oplyste efter rapportens offentliggørelse til TTP, at selskabet har suspenderet nye ansøgninger om annoncekonti, der vedrører AI-baserede “nudify”-apps, ansigtsbytning og “girlfriend services”. Selskabet sagde samtidig, at det er i gang med en omfattende opgradering af sine compliance-processer for at håndtere den teknologiske udvikling inden for syntetiske medier .

Kinesiske annoncører er økonomisk vigtige for Meta

Sagen skal ses på baggrund af Metas store indtjening fra kinesiske annoncører. Meta tjente 18,35 milliarder dollar på det kinesiske marked i 2024, op fra 13,69 milliarder dollar året før. Det svarer til omtrent en tiendedel af selskabets samlede årlige omsætning .

En Reuters-undersøgelse fra december 2025, baseret på interne Meta-dokumenter, konkluderede, at omkring 19 procent – over 3 milliarder dollar – af denne kinesiske annonceindtægt kom fra reklamer for svindel, ulovligt hasardspil, pornografi og andet forbudt indhold .

Samtidig vurderede analytikere fra MoffettNathanson, at Meta kunne miste omkring 7 milliarder dollar i kinesiske annonceindtægter som følge af handels toldsatser .

TTP beskriver derfor problemet som mere end en enkelt fejl i moderationen. Organisationen mener, at hullerne i håndhævelsen indgår i et bredere mønster, hvor Meta har tolereret regelbrud fra kinesiske samarbejdspartnere for at beskytte en milliardindtægt .

Hvad betyder Take It Down Act?

Rapporten kommer også, mens en ny amerikansk lovgivning er trådt i kraft. Den såkaldte TAKE IT DOWN Act – Tools to Address Known Exploitation by Immobilizing Technological Deepfakes on Websites and Networks Act – blev vedtaget med stort flertal i Kongressen. Repræsentanternes Hus stemte 409-2, og præsident Donald Trump underskrev loven 19. maj 2025. Loven blev dermed Public Law No. 119-12 .

Loven forbyder offentliggørelse på nettet af intime billeder uden den afbildedes samtykke, uanset om billederne er ægte eller AI-genererede. Den kræver også, at onlineplatforme hurtigt fjerner materialet, når de får besked om det .

TTP’s undersøgelse illustrerer dog en begrænsning: Lovgivningen er i høj grad afhængig af, at platforme som Meta faktisk håndhæver deres egne regler effektivt. Rapporten viser, at der fortsat kan være betydelige huller – især når kontrollen berører en lukrativ annonceforretning.

Konklusion

TTP’s rapport kobler over 7.600 forbudte “nudify”-annoncer på Facebook og Instagram til Metas autoriserede kinesiske partner GatherOne. Mange af annoncerne blev først fjernet, efter at Metas egne systemer havde ladet dem køre, og Meta har ikke forklaret, hvorfor hele netværket ikke blev lukket tidligere.

GatherOne har siden suspenderet nye relaterede annoncekonti. Sagen fremhæver samtidig den grundlæggende konflikt mellem Metas offentlige løfter om at bekæmpe ikke-samtykkebaserede intime billeder og selskabets økonomiske afhængighed af kinesiske annoncører – en indtægtskilde på 18,35 milliarder dollar i 2024, hvor næsten en femtedel ifølge Reuters var knyttet til annoncer, der overtrådte Metas regler.