Minnesotas Gesetz gegen KI-generierte Fake-Nacktbilder bleibt in Kraft

Minnesota darf sein neues Gesetz gegen KI-generierte Fake-Nacktbilder vorerst weiter anwenden. Elon Musks KI-Unternehmen xAI ist mit dem Versuch gescheitert, die Regelung während des laufenden Verfahrens per einstweiliger Verfügung auszusetzen. Eine endgültige Entscheidung über die Verfassungsmäßigkeit steht jedoch noch aus: US-Bundesrichter Donovan W. Frank lehnte lediglich den Antrag auf eine vorläufige Untersagung ab. 211

Was das Gesetz in Minnesota verbietet

Das Gesetz HF 1606 trat am 1. August 2026 in Kraft. Es richtet sich gegen Anbieter, deren KI-Produkte Nutzern ermöglichen, bestimmte sexualisierte Bilder oder Darstellungen intimer Körperbereiche von identifizierbaren Personen zu erzeugen – etwa mit Werkzeugen wie xAIs Grok Imagine. 1911

Im Mittelpunkt steht die sogenannte „Nudification“: KI verändert oder erzeugt ein realistisch wirkendes Bild oder Video so, dass eine identifizierbare Person intime Körperteile zu haben scheint, die im Ausgangsmaterial nicht zu sehen waren. Berichten zum Verfahren zufolge handelt es sich um das erste Gesetz dieser Art auf Ebene eines US-Bundesstaats. 24

Der Attorney General von Minnesota, vergleichbar mit dem obersten Justizvertreter des Bundesstaats, kann Unterlassungsverfügungen beantragen und pro Verstoß zivilrechtliche Strafen von bis zu 500.000 US-Dollar verlangen. 59

xAIs Argument: Eingriff in die Meinungsfreiheit

xAI verklagte Minnesotas Attorney General Keith Ellison Ende Juli. Das Unternehmen argumentiert, HF 1606 sei eine verfassungswidrige, inhaltsbezogene Beschränkung von Äußerungsfreiheit und Werkzeugen für visuelle Gestaltung. Nach Auffassung von xAI hängt die Haftung davon ab, was ein bearbeitetes Bild zeigt; deshalb könne das Gesetz über nicht einvernehmliche sexualisierte Bilder hinaus auch geschützte Ausdrucksformen erfassen. 2627

xAI beantragte zunächst Sofortschutz vor Inkrafttreten des Gesetzes und anschließend eine einstweilige Verfügung für die Dauer des Verfahrens. Nach Angaben des Unternehmens betrifft das Gesetz auch Nutzer von Grok und Grok Imagine in Minnesota. 3236

Minnesota widersprach dieser Lesart. Ellison argumentierte, das Gesetz sei gezielt auf nicht einvernehmliche KI-Sexualbilder zugeschnitten. Die beanstandete Funktion sei eine regulierbare Produkteigenschaft – und nicht in dem von xAI behaupteten Umfang geschützte Meinungsäußerung. 16

Warum der Richter den Eilantrag ablehnte

Am 4. September wies Richter Frank den Antrag von xAI zurück. Er entschied damit nicht, ob HF 1606 gegen den ersten Zusatzartikel der US-Verfassung verstößt, der die Meinungsfreiheit schützt. Ausschlaggebend war vielmehr, dass xAI nach Ansicht des Gerichts keinen unmittelbaren, nicht wiedergutzumachenden Schaden nachgewiesen hatte – eine zentrale Voraussetzung für eine einstweilige Verfügung. 1122

Auch der Zeitpunkt spielte eine Rolle. Bereits am 31. Juli hatte das Gericht einen Antrag auf eine kurzfristige Notfallanordnung abgelehnt. xAI hatte sich erst kurz vor dem Inkrafttreten des Gesetzes an das Gericht gewandt. Danach wurde das Verfahren beschleunigt weitergeführt, um den Antrag auf eine einstweilige Verfügung zu prüfen. 1114

Bei der Abwägung der Interessen sah der Richter Minnesota im Vorteil. Er verwies auf eine demokratisch beschlossene zivilrechtliche Regelung, die Schäden durch die Verbreitung fotorealistischer, sexualisierter KI-Bilder eindämmen solle. 511

Was das Urteil bedeutet – und was nicht

Praktisch heißt das: Minnesota kann HF 1606 durchsetzen, solange die Klage weiterläuft. Betroffene KI-Anbieter müssen in dieser Zeit mit den möglichen Sanktionen des Gesetzes rechnen. 59

Das Urteil ist aber kein endgültiges verfassungsrechtliches Gütesiegel für das Gesetz. Die Einwände von xAI zur Meinungsfreiheit wurden inhaltlich nicht entschieden. xAI hat angekündigt, gegen die Ablehnung vorzugehen; parallel bleibt die eigentliche Klage anhängig. 23

Warum Grok und „Nudification“-Tools im Zentrum stehen

Der Fall berührt eine weiterreichende Frage: Dürfen US-Bundesstaaten KI-Anbietern unmittelbar Pflichten auferlegen, wenn deren Tools realistische, nicht einvernehmliche sexualisierte Bilder identifizierbarer Menschen erzeugen können?

Minnesota argumentiert, leicht zugängliche Funktionen zum digitalen „Entkleiden“ schafften erhebliche Risiken und rechtfertigten eine gezielte Regulierung. xAI sieht darin dagegen eine inhaltsbezogene Beschränkung einer allgemein einsetzbaren kreativen Technologie. 1217

Vorerst hat Minnesota den prozessualen Vorteil. Die entscheidende Grundsatzfrage bleibt offen: Ob Beschränkungen dieser Art für KI-Werkzeuge vor dem Hintergrund des ersten Verfassungszusatzes Bestand haben können, muss das Gericht noch klären.