Metas kinesiske annonsepartner kjørte tusenvis av forbudte AI-annonser

Appene som ble markedsført, kunne blant annet digitalt fjerne klær fra bilder av kvinner eller sette ansikter inn i pornografiske videoer. Dette er innhold Meta selv sier er forbudt på plattformene .

Et omfattende annonsemønster

TTP baserte gjennomgangen på data fra Metas eget annonsebibliotek. Rapporten fant blant annet:

• Over 7 600 annonser for apper som lager kunstige, avkledde bilder av kvinner .
• 210 Facebook-sider der GatherOne var oppført som annonsør og betaler .
• 179 av sidene, tilsvarende 85 prosent, hadde kjørt annonser som Meta senere fjernet for brudd på reglene om seksuell utnyttelse, seksuell kontakt eller nakenhet .
• Flere annonser viste kvinner som kledde av seg eller simulerte seksuelle handlinger .
• Brukeranmeldelser av én av appene inneholdt flere varsler om materiale som så ut til å kunne være seksuelle overgrep mot barn .

Ifølge TTP var annonsene i konflikt med tre sett av Metas regler: forbudet mot å markedsføre apper som lager ikke-samtykkede intime bilder, reglene mot nakenhet og seksuelt antydende innhold, samt forbudet mot uautentisk aktivitet som bruk av falske kontoer .

Hvorfor GatherOne er sentral

GatherOne er ikke en tilfeldig annonsør. Selskapet er blant bare 11 offisielt autoriserte topp-partnere som Meta har valgt ut for annonsering i Kina. Facebook og Instagram er blokkert for vanlig bruk i Kina, og kinesiske selskaper som vil nå brukere internasjonalt, benytter derfor slike mellomledd .

Koblingen til GatherOne ble identifisert gjennom opplysningene i Metas annonsebibliotek: Kontoene oppga selskapet som både annonsør og betaler . GatherOne skal totalt ha produsert mer enn 30 000 annonser i måneden. Det kan ha gjort det vanskeligere for Metas kontrollsystemer å oppdage og stanse hele nettverket på én gang .

Dette sier Meta og GatherOne

Meta svarte ikke direkte på TTPs spørsmål, men sa til Bloomberg at selskapet tar «aggressive grep» mot «nudify»-apper. Meta opplyste også at annonsører som bryter reglene, kan få annonser fjernet, økonomiske sanksjoner og annonsekontoer avsluttet .

Cindy Southworth, Metas leder for sikkerhetspolitikk for kvinner, sa:

«Vi tillater ikke ikke-samtykkede intime bilder eller nudify-apper på plattformen vår, og vi tar aggressive grep for å bekjempe dem» .

Meta hadde allerede saksøkt utviklerne bak CrushAI-appene i juni 2025 og kunngjort ny teknologi for å oppdage denne typen innhold . TTPs funn tyder likevel på at tiltakene ikke hindret annonser fra å bli kjørt gjennom en av Metas egne autoriserte partnere.

Etter at rapporten ble publisert, sa GatherOne til TTP at selskapet hadde stanset nye søknader om annonsekontoer knyttet til AI-verktøy for «nudify», ansiktsbytte og såkalte «kjærestetjenester». Selskapet opplyste samtidig at det gjennomfører en omfattende oppgradering av kontrollrutinene for å håndtere den teknologiske utviklingen innen syntetiske medier .

Milliardinntekter fra kinesiske annonsører

Rapporten kommer samtidig som Metas økonomiske avhengighet av kinesiske annonsører får økt oppmerksomhet.

• Meta fikk inn 18,35 milliarder dollar fra Kina i 2024, opp fra 13,69 milliarder dollar året før. Det tilsvarte omtrent en tidel av selskapets samlede årsinntekter .
• En Reuters-gransking fra desember 2025, basert på interne Meta-dokumenter, konkluderte med at rundt 19 prosent – over 3 milliarder dollar – av disse inntektene kom fra annonser for svindel, ulovlig gambling, pornografi og annet forbudt innhold .
• Analysehuset MoffettNathanson anslo at Meta kunne tape rundt 7 milliarder dollar i kinesiske annonseinntekter som følge av toll og handelskonflikt .

TTP beskriver derfor saken som del av et større mønster der Metas håndheving kan ha vært svakere overfor kinesiske annonsepartnere enn selskapets offentlige regler tilsier, samtidig som det kinesiske markedet representerer inntekter i milliardklassen .

Hva betyr Take It Down Act?

Saken må også ses i lys av den amerikanske loven TAKE IT DOWN Act – «Tools to Address Known Exploitation by Immobilizing Technological Deepfakes on Websites and Networks Act». Loven ble vedtatt med bred tverrpolitisk støtte; Representantenes hus stemte 409 mot 2, og president Donald Trump signerte den 19. mai 2025. Loven ble da Public Law No. 119-12 .

Loven forbyr publisering på nettet av intime bilder uten samtykke, både ekte og AI-genererte, og krever at berørte plattformer raskt fjerner slikt innhold når de får melding om det .

TTPs rapport illustrerer samtidig en begrensning ved regelverket: Det er fortsatt i stor grad avhengig av at plattformene selv oppdager og håndhever brudd. Funnene viser at betydelige mengder ulovlig eller regelstridig innhold kan rekke å bli distribuert før det fjernes – også når annonseringen skjer gjennom en partner Meta selv har godkjent.

Kort oppsummert

TTP-rapporten peker på at GatherOne, en av Metas autoriserte annonsepartnere i Kina, sto bak tusenvis av annonser for «nudify»-apper som bryter Metas egne regler. Meta fjernet mange av annonsene først i etterkant, men har ikke forklart hvorfor nettverket ikke ble stanset tidligere. GatherOne har siden satt nye relaterte kontoer på pause. Saken synliggjør spenningen mellom Metas sikkerhetsløfter og selskapets sterke økonomiske avhengighet av kinesiske annonsører.