Metas China-Werbepartner GatherOne schaltet tausende verbotene „Nudify“-Anzeigen

Das Ausmaß des Problems

Die TTP-Untersuchung, die Daten aus Metas eigenem Anzeigenarchiv nutzte, deckte ein beträchtliches Werbenetzwerk auf:

• Über 7.600 Anzeigen wurden in den letzten Monaten für KI-Apps geschaltet, die Bilder von Frauen entkleiden .
• 210 Facebook-Seiten waren mit GatherOne als namentlich genanntem Werbetreibenden und Zahlendem verknüpft .
• 179 Seiten (85 %) schalteten Anzeigen, die Meta später wegen Verstoßes gegen seine Standards zu sexueller Ausbeutung Erwachsener, sexueller Anbahnung oder Nacktheit Erwachsener entfernte .
• Viele Anzeigen zeigten sich entkleidende Frauen oder simulierten sexuelle Handlungen – ein Verstoß gegen Metas Werbestandards zu Nacktheit und sexuell anzüglichen Inhalten .
• Mehrere Nutzerbewertungen einer beworbenen App wiesen auf mutmaßliches Material über sexuellen Kindesmissbrauch hin .

Der Bericht stellt fest, dass die Anzeigen gegen alle drei relevanten Meta-Richtlinien verstießen: das Verbot der Werbung für Apps, die „nicht-einvernehmliche intime Bilder“ (Nudify-Apps) erstellen, das Verbot von Anzeigen mit Nacktheit oder sexuell anzüglichen Inhalten sowie die Regeln gegen unauthentisches Verhalten (Fake-Konten) .

Die Rolle von GatherOne

GatherOne ist kein gewöhnlicher Werbetreibender – es ist einer von nur 11 offiziell autorisierten „Top-Tier“-Werbepartnern in China, die von Meta handverlesen wurden. Da Facebook und Instagram in China gesperrt sind, müssen chinesische Unternehmen diese Zwischenhändler nutzen, um Metas globales Publikum zu erreichen .

Die Verbindung zu GatherOne wurde durch Offenlegungen in Metas Anzeigenbibliothek bestätigt: Alle Anzeigen stammten von Konten, die GatherOne als Werbetreibenden und Zahlungsempfänger nannten . Das Unternehmen generiert Berichten zufolge monatlich über 30.000 Anzeigen, was erklären könnte, warum Metas Durchsetzungssysteme das Netzwerk nicht vollständig zerschlagen haben .

Wie Meta und GatherOne reagierten

Meta antwortete nicht direkt auf die Fragen der TTP, teilte Bloomberg jedoch mit, man unternehme „aggressive Schritte“ zur Bekämpfung von Nudify-Apps und säumige Werbetreibende müssten mit der Löschung von Anzeigen, finanziellen Sanktionen und der Kündigung von Werbekonten rechnen . Cindy Southworth, Metas Leiterin der Sicherheitsrichtlinien für Frauen, erklärte: „Wir erlauben keine nicht-einvernehmlichen intimen Bilder oder Nudify-Apps auf unserer Plattform und ergreifen aggressive Maßnahmen, um sie zu bekämpfen“ .

Bemerkenswert ist, dass Meta erst im Juni 2025 – nur einen Monat vor dem TTP-Bericht – Klage gegen die Entwickler der CrushAI-Nudify-Apps eingereicht und eine neue Erkennungstechnologie angekündigt hatte . Der TTP-Bericht legt nahe, dass diese Bemühungen nicht verhinderten, dass Anzeigen über den eigenen autorisierten Partner geschaltet wurden.

Nach Veröffentlichung des Berichts teilte GatherOne der TTP mit, man habe die Annahme neuer Werbekonten für KI-Nudify-, Face-Swap- und „Freundin“-Dienste ausgesetzt. Zudem führe man „ein umfassendes Compliance-Upgrade durch, um der technischen Entwicklung synthetischer Medien Rechnung zu tragen“ .

Der größere Zusammenhang: Chinas Bedeutung für Metas Werbeeinnahmen

Der TTP-Bericht fällt vor dem Hintergrund einer starken finanziellen Abhängigkeit Metas von chinesischen Werbetreibenden. Schlüsselzahlen aus dem Bericht und anderen Untersuchungen:

• Meta erzielte 2024 18,35 Milliarden Dollar Umsatz in China, gegenüber 13,69 Milliarden Dollar im Jahr 2023 – rund ein Zehntel des Gesamtumsatzes .
• Eine Reuters-Untersuchung vom Dezember 2025, die sich auf interne Meta-Dokumente stützt, ergab, dass etwa 19 % (über 3 Milliarden Dollar) dieser China-Einnahmen aus Anzeigen für Betrug, illegales Glücksspiel, Pornografie und andere verbotene Inhalte stammten .
• Analysten von MoffettNathanson prognostizierten, dass Meta durch Handelszölle 7 Milliarden Dollar an chinesischen Werbeeinnahmen verlieren könnte .

Der TTP-Bericht charakterisiert Metas Durchsetzungslücke als Teil eines Musters: Das Unternehmen toleriere Richtlinienverstöße seiner chinesischen Partner, um einen milliardenschweren Einnahmestrom zu sichern .

Das TAKE IT DOWN-Gesetz

Der Bericht erscheint auch im Kontext neuer US-Bundesgesetzgebung. Das TAKE IT DOWN-Gesetz (Tools to Address Known Exploitation by Immobilizing Technological Deepfakes on Websites and Networks Act) wurde mit überwältigender überparteilicher Unterstützung (Zustimmung im Repräsentantenhaus 409–2) verabschiedet und am 19. Mai 2025 von Präsident Trump als Public Law No. 119-12 unterzeichnet .

Das Gesetz verbietet die nicht-einvernehmliche Veröffentlichung intimer Bilddarstellungen im Internet – sowohl authentischer als auch KI-generierter – und verpflichtet Online-Plattformen, solche Darstellungen nach Erhalt einer Benachrichtigung umgehend zu entfernen . Der TTP-Bericht unterstreicht, dass der Rahmen des Gesetzes zwar in Kraft ist, aber auf die Selbstkontrolle von Plattformen wie Meta angewiesen ist – und der Bericht zeigt, dass die Durchsetzungslücken nach wie vor erheblich sind, insbesondere wenn lukrative chinesische Werbeeinnahmen auf dem Spiel stehen.

Fazit

Der TTP-Bericht enthüllte, dass Metas eigener autorisierter chinesischer Werbepartner GatherOne für tausende verbotene Nudify-App-Anzeigen verantwortlich war. Metas Durchsetzungssysteme erfassten viele davon erst im Nachhinein, und das Unternehmen hat nicht erklärt, warum es das Netzwerk nicht früher zerschlagen konnte. GatherOne hat inzwischen die Annahme neuer Konten für ähnliche Dienste ausgesetzt. Die Ergebnisse machen den Zielkonflikt zwischen Metas politischen Verpflichtungen und seiner finanziellen Abhängigkeit vom chinesischen Werbemarkt deutlich – der 2024 18,35 Milliarden Dollar einbrachte, wobei fast ein Fünftel davon aus regelwidrigen Anzeigen stammte.