Direkte Verstöße gegen die eigenen Richtlinien. Der ISD-Bericht stellt ausdrücklich fest, dass diese Erkenntnisse in „direktem Widerspruch“ zu den eigenen Richtlinien von YouTube stehen, die sexuell explizite Inhalte verbieten. Die Forscher fanden heraus, dass Inhalte, die gegen diese Richtlinien verstoßen, „leicht auffindbar und zugänglich“ waren, was die Plattform effektiv zu einem Einfallstor für Missbrauch machte . Melanie Smith, Senior Director für Forschung und Politik beim ISD, sagte: „Es war nicht nur so, dass YouTube eine passive Quelle für Weiterleitungsverkehr war. In vielen Fällen erleichterte es auch die Nutzung dieser Tools.“ Sie fügte hinzu, dass die Durchsetzung der bestehenden Richtlinien nicht umfassend sei .

X und Suchmaschinen als Zugangspunkte. Die frühere ISD-Ausgabe aus dem Jahr 2025 dokumentierte, dass X zwischen Juni 2020 und Juli 2025 für 289.660 von insgesamt 410.592 Erwähnungen von SIIA-Tool-Schlüsselwörtern verantwortlich war – das sind über 70 % aller Aktivitäten, die größtenteils von Bots getrieben wurden . Darüber hinaus ergaben einfache Suchanfragen bei Google, Yahoo und Bing nach Begriffen wie „deepnude“, „nudify“ und „undress app“ direkte Links zu SIIA-Werkzeugen bereits in den ersten 20 organischen Suchergebnissen. Bing listete solche Tools für alle drei Suchanfragen sogar als allererstes Ergebnis auf .

Das lukrative Geschäftsmodell zu sehr niedrigen Kosten

Der ISD-Bericht beleuchtet die wirtschaftlichen Faktoren, die die Verbreitung dieser Werkzeuge vorantreiben.

Kosten für die Täter. Mit „Nudification“-Tools können Nutzer bereits für einen US-Dollar pro Bild explizite Inhalte erstellen. Das macht den Missbrauch für einen großen Kreis von Tätern zugänglich .

Einnahmen für die Plattformen. Eine im ISD-Bericht zitierte Untersuchung von WIRED schätzt, dass diese Plattformen gemeinsam Einnahmen von bis zu 36 Millionen US-Dollar pro Jahr erzielen . Dieses lukrative Modell schafft einen starken finanziellen Anreiz für die Betreiber, ihre Dienste leicht auffindbar zu halten.

Häufige Ziele und Motive

Die Forschung liefert auch Details darüber, wer warum ins Visier gerät, und zeigt Muster auf, die über rein sexuelle Motive hinausgehen.

Hauptopfer. Der ISD fand heraus, dass zu den häufigsten Zielen aktuelle und Ex-Freundinnen und, erschreckenderweise, auch Verwandte wie Schwestern und Cousinen gehören . Ein weiterer Kontext aus einer Studie des Oxford Internet Institute (2025) ergab, dass von fast 35.000 öffentlich verfügbaren Deepfake-Modellvarianten 96 % auf Frauen abzielten . Inzwischen wurden Fälle von Deepfake-Missbrauch an über 90 Schulen weltweit gemeldet .

Nicht-sexuelle Motive. Die Beweggründe hinter dem Missbrauch sind nicht immer sexueller Natur. Melanie Smith vom ISD stellte fest: „Viele der Anfragen zielten darauf ab, Leute von ihrem Arbeitsplatz zu vertreiben und ihnen auf hinterhältige Weise ihre Existenzgrundlage zu nehmen“ . Diese Instrumentalisierung von Deepfakes für Rufschädigung und beruflichen Schaden stellt eine besonders heimtückische Form des bildbasierten Missbrauchs dar.

Gesetzgeberische und regulatorische Antworten

Das Ausmaß des Problems hat eine mehrschichtige gesetzgeberische Reaktion auf Bundes- und Landesebene ausgelöst.

Bundesebene: Der „Take It Down Act“. Im Mai 2025 unterzeichnet, macht der TAKE IT DOWN Act (Tools to Address Known Exploitation by Immobilizing Technological Deepfakes on Websites and Networks Act) die wissentliche Veröffentlichung oder Androhung der Veröffentlichung nicht-einvernehmlicher intimer Bilder zu einer Bundesstraftat . Seine Plattform-Compliance-Anforderungen traten am 19. Mai 2026 vollständig in Kraft . Betroffene Plattformen, darunter soziale Medien und Messaging-Apps, müssen nun ein Verfahren für Opfer bereitstellen, um die Entfernung nicht-einvernehmlicher intimer Bilder (NCII) zu beantragen. Sie sind verpflichtet, die Inhalte – zusammen mit allen bekannten identischen Kopien – innerhalb von 48 Stunden nach einem gültigen Antrag zu entfernen, andernfalls droht ein Einschreiten der US-Handelsaufsichtsbehörde FTC .

Auf Bundesstaatsebene: Minnesotas erstes „Nudification“-Verbot. Minnesota ist der erste US-Bundesstaat, der ein Gesetz erlassen hat, das „Nudification“-Technologie speziell verbietet . Das Gesetz tritt am 1. August 2026 in Kraft. Es verbietet jeder Person, die eine Website, Anwendung oder Software besitzt oder kontrolliert, Nutzern den Zugriff, das Herunterladen oder die Nutzung von Nudification-Technologie zu gestatten . Zudem ermöglicht es Opfern, Zivilklagen gegen die Täter einzureichen . Der Gesetzesentwurf wurde mit überwältigender bipartisaner Unterstützung verabschiedet, darunter eine einstimmige 65:0-Abstimmung im Senat von Minnesota . Unternehmen, die dagegen verstoßen, können mit Zivilstrafen von bis zu 500.000 US-Dollar pro Verstoß belegt werden .

Reaktionen der Plattformen und Vollzugslücken. Im Januar 2026 geriet X massiv in die Kritik, nachdem sein KI-Chatbot Grok Berichten zufolge genutzt wurde, um innerhalb von neun Tagen im Dezember 2025 mindestens 23.000 sexualisierte Bilder von Kindern und 1,8 Millionen von Frauen zu generieren . X schränkte daraufhin den Zugang zu Grok auf kostenpflichtige Nutzer ein . Der ISD-Bericht fordert koordinierte, systemweite Reaktionen, darunter stärkere Plattformregulierung und Programme zur digitalen Kompetenz an Schulen . Der Bericht weist auch auf weit verbreitete Bedenken hinsichtlich der Vollzugslücken hin: YouTubes Richtlinien verbieten zwar offiziell die Verlinkung zu sexuell expliziten Inhalten, aber der ISD fand heraus, dass diese Regeln nicht umfassend durchgesetzt werden, sodass die Plattform weiterhin ein zentrales Einfallstor bleibt .

Direkte Verstöße gegen die eigenen Richtlinien. Der ISD-Bericht stellt ausdrücklich fest, dass diese Erkenntnisse in „direktem Widerspruch“ zu den eigenen Richtlinien von YouTube stehen, die sexuell explizite Inhalte verbieten. Die Forscher fanden heraus, dass Inhalte, die gegen diese Richtlinien verstoßen, „leicht auffindbar und zugänglich“ waren, was die Plattform effektiv zu einem Einfallstor für Missbrauch machte . Melanie Smith, Senior Director für Forschung und Politik beim ISD, sagte: „Es war nicht nur so, dass YouTube eine passive Quelle für Weiterleitungsverkehr war. In vielen Fällen erleichterte es auch die Nutzung dieser Tools.“ Sie fügte hinzu, dass die Durchsetzung der bestehenden Richtlinien nicht umfassend sei .

X und Suchmaschinen als Zugangspunkte. Die frühere ISD-Ausgabe aus dem Jahr 2025 dokumentierte, dass X zwischen Juni 2020 und Juli 2025 für 289.660 von insgesamt 410.592 Erwähnungen von SIIA-Tool-Schlüsselwörtern verantwortlich war – das sind über 70 % aller Aktivitäten, die größtenteils von Bots getrieben wurden . Darüber hinaus ergaben einfache Suchanfragen bei Google, Yahoo und Bing nach Begriffen wie „deepnude“, „nudify“ und „undress app“ direkte Links zu SIIA-Werkzeugen bereits in den ersten 20 organischen Suchergebnissen. Bing listete solche Tools für alle drei Suchanfragen sogar als allererstes Ergebnis auf .

Das lukrative Geschäftsmodell zu sehr niedrigen Kosten

Der ISD-Bericht beleuchtet die wirtschaftlichen Faktoren, die die Verbreitung dieser Werkzeuge vorantreiben.

Kosten für die Täter. Mit „Nudification“-Tools können Nutzer bereits für einen US-Dollar pro Bild explizite Inhalte erstellen. Das macht den Missbrauch für einen großen Kreis von Tätern zugänglich .

Einnahmen für die Plattformen. Eine im ISD-Bericht zitierte Untersuchung von WIRED schätzt, dass diese Plattformen gemeinsam Einnahmen von bis zu 36 Millionen US-Dollar pro Jahr erzielen . Dieses lukrative Modell schafft einen starken finanziellen Anreiz für die Betreiber, ihre Dienste leicht auffindbar zu halten.

Häufige Ziele und Motive

Die Forschung liefert auch Details darüber, wer warum ins Visier gerät, und zeigt Muster auf, die über rein sexuelle Motive hinausgehen.

Hauptopfer. Der ISD fand heraus, dass zu den häufigsten Zielen aktuelle und Ex-Freundinnen und, erschreckenderweise, auch Verwandte wie Schwestern und Cousinen gehören . Ein weiterer Kontext aus einer Studie des Oxford Internet Institute (2025) ergab, dass von fast 35.000 öffentlich verfügbaren Deepfake-Modellvarianten 96 % auf Frauen abzielten . Inzwischen wurden Fälle von Deepfake-Missbrauch an über 90 Schulen weltweit gemeldet .

Nicht-sexuelle Motive. Die Beweggründe hinter dem Missbrauch sind nicht immer sexueller Natur. Melanie Smith vom ISD stellte fest: „Viele der Anfragen zielten darauf ab, Leute von ihrem Arbeitsplatz zu vertreiben und ihnen auf hinterhältige Weise ihre Existenzgrundlage zu nehmen“ . Diese Instrumentalisierung von Deepfakes für Rufschädigung und beruflichen Schaden stellt eine besonders heimtückische Form des bildbasierten Missbrauchs dar.

Gesetzgeberische und regulatorische Antworten

Das Ausmaß des Problems hat eine mehrschichtige gesetzgeberische Reaktion auf Bundes- und Landesebene ausgelöst.

Bundesebene: Der „Take It Down Act“. Im Mai 2025 unterzeichnet, macht der TAKE IT DOWN Act (Tools to Address Known Exploitation by Immobilizing Technological Deepfakes on Websites and Networks Act) die wissentliche Veröffentlichung oder Androhung der Veröffentlichung nicht-einvernehmlicher intimer Bilder zu einer Bundesstraftat . Seine Plattform-Compliance-Anforderungen traten am 19. Mai 2026 vollständig in Kraft . Betroffene Plattformen, darunter soziale Medien und Messaging-Apps, müssen nun ein Verfahren für Opfer bereitstellen, um die Entfernung nicht-einvernehmlicher intimer Bilder (NCII) zu beantragen. Sie sind verpflichtet, die Inhalte – zusammen mit allen bekannten identischen Kopien – innerhalb von 48 Stunden nach einem gültigen Antrag zu entfernen, andernfalls droht ein Einschreiten der US-Handelsaufsichtsbehörde FTC .

Auf Bundesstaatsebene: Minnesotas erstes „Nudification“-Verbot. Minnesota ist der erste US-Bundesstaat, der ein Gesetz erlassen hat, das „Nudification“-Technologie speziell verbietet . Das Gesetz tritt am 1. August 2026 in Kraft. Es verbietet jeder Person, die eine Website, Anwendung oder Software besitzt oder kontrolliert, Nutzern den Zugriff, das Herunterladen oder die Nutzung von Nudification-Technologie zu gestatten . Zudem ermöglicht es Opfern, Zivilklagen gegen die Täter einzureichen . Der Gesetzesentwurf wurde mit überwältigender bipartisaner Unterstützung verabschiedet, darunter eine einstimmige 65:0-Abstimmung im Senat von Minnesota . Unternehmen, die dagegen verstoßen, können mit Zivilstrafen von bis zu 500.000 US-Dollar pro Verstoß belegt werden .

Reaktionen der Plattformen und Vollzugslücken. Im Januar 2026 geriet X massiv in die Kritik, nachdem sein KI-Chatbot Grok Berichten zufolge genutzt wurde, um innerhalb von neun Tagen im Dezember 2025 mindestens 23.000 sexualisierte Bilder von Kindern und 1,8 Millionen von Frauen zu generieren . X schränkte daraufhin den Zugang zu Grok auf kostenpflichtige Nutzer ein . Der ISD-Bericht fordert koordinierte, systemweite Reaktionen, darunter stärkere Plattformregulierung und Programme zur digitalen Kompetenz an Schulen . Der Bericht weist auch auf weit verbreitete Bedenken hinsichtlich der Vollzugslücken hin: YouTubes Richtlinien verbieten zwar offiziell die Verlinkung zu sexuell expliziten Inhalten, aber der ISD fand heraus, dass diese Regeln nicht umfassend durchgesetzt werden, sodass die Plattform weiterhin ein zentrales Einfallstor bleibt .