Rechter laat Minnesotaanse wet tegen AI-nepnaaktbeelden voorlopig gelden

Minnesota mag zijn nieuwe wet tegen door AI gemaakte nepnaaktbeelden voorlopig blijven handhaven, terwijl xAI van Elon Musk de regeling bij een federale rechtbank aanvecht. De rechter heeft dus nog geen definitief oordeel gegeven over de grondwettigheid van de wet. Rechter Donovan W. Frank wees alleen het verzoek van xAI af om de wet tijdens de procedure tijdelijk buiten werking te stellen. 211

Wat de wet verbiedt

Minnesota House File 1606 (HF 1606) trad op 1 augustus 2026 in werking. De wet richt zich op aanbieders die gebruikers met bepaalde AI-technologie seksuele beelden of beelden van intieme lichaamsdelen van identificeerbare personen laten genereren. Daaronder kunnen tools vallen zoals xAI’s Grok Imagine. 1911

De maatregel wordt vaak omschreven als een verbod op AI-‘nudification’: het met AI realistisch aanpassen of maken van beeld of video, zodat het lijkt alsof een herkenbaar persoon een intiem lichaamsdeel heeft dat niet in het oorspronkelijke materiaal voorkwam. Volgens berichtgeving over de zaak is het de eerste wet van dit type op staatsniveau in de Verenigde Staten. 24

De procureur-generaal van Minnesota kan een verbod via de rechter vragen en civiele boetes opleggen tot 500.000 dollar per overtreding. 59

Waarom xAI naar de rechter stapte

xAI daagde procureur-generaal Keith Ellison eind juli voor de rechter. Het bedrijf stelt dat HF 1606 een ongrondwettelijke, inhoudsafhankelijke beperking is van uitingen en hulpmiddelen voor visuele expressie, beschermd door het Eerste Amendement van de Amerikaanse Grondwet. Volgens xAI hangt aansprakelijkheid af van wat een bewerkt beeld laat zien en kan de wet verder reiken dan niet-consensuele seksuele beelden. 2627

Het bedrijf vroeg eerst om spoedmaatregelen vóór de ingangsdatum en daarna om een voorlopige voorziening die handhaving zou opschorten zolang de grondwettelijke procedure loopt. xAI stelde ook dat de wet gevolgen zou hebben voor gebruikers van Grok en Grok Imagine in Minnesota. 3236

Minnesota verwerpt die lezing. Ellison betoogde dat de wet nauw is toegesneden op niet-consensuele, met AI gemaakte seksuele beelden. Volgens de staat gaat het om een productfunctie die gereguleerd mag worden, niet om beschermde uitingsvrijheid zoals xAI die omschrijft. 16

Waarom de rechter geen voorlopige blokkade gaf

Op 4 september wees rechter Frank het verzoek van xAI af. Daarmee besliste hij niet of HF 1606 in strijd is met het Eerste Amendement. Zijn oordeel was dat xAI niet aannemelijk had gemaakt dat het bedrijf onmiddellijk en onherstelbaar nadeel zou lijden — een noodzakelijke voorwaarde voor zo’n uitzonderlijke voorlopige maatregel. 1122

Ook de timing woog mee. De rechtbank had xAI’s verzoek om een tijdelijk straatverbod al op 31 juli afgewezen, omdat het bedrijf pas vlak voor de ingangsdatum om spoedhulp vroeg. Daarna volgde wel een versnelde behandeling van het verzoek om een voorlopige voorziening. 1114

Bij de afweging van belangen en het publieke belang koos de rechter eveneens de kant van Minnesota. Frank omschreef de wet als een democratisch ingevoerde civiele regeling die schadelijke gevolgen van de verspreiding van fotorealistische, geseksualiseerde AI-beelden moet aanpakken. 511

Wat dit oordeel wel en niet betekent

In de praktijk betekent de beslissing dat Minnesota HF 1606 kan handhaven zolang de rechtszaak doorgaat. AI-aanbieders die onder de wet vallen, kunnen in die periode met de mogelijke sancties te maken krijgen. 59

De uitspraak is echter geen definitieve goedkeuring van de grondwettigheid van de wet. De rechter heeft de inhoud van xAI’s beroep op het Eerste Amendement nog niet beslist. xAI heeft gezegd in beroep te gaan, terwijl de hoofdzaak nog loopt. 23

Grok en ‘nudification’-tools staan centraal

De zaak legt een bredere beleidsvraag bloot: mogen Amerikaanse staten directe verplichtingen opleggen aan aanbieders van AI-producten wanneer hun tools realistische, niet-consensuele seksuele beelden van herkenbare mensen kunnen produceren?

Minnesota stelt dat laagdrempelige functies om mensen digitaal uit te kleden ernstige schade kunnen veroorzaken en daarom gerichte regulering rechtvaardigen. xAI stelt daartegenover dat de wet een op inhoud gebaseerde beperking oplegt aan algemene creatieve technologie. 1217

Voorlopig heeft Minnesota procedureel de overhand. De belangrijkste vraag — of deze vorm van regulering van AI-tools standhoudt onder het Eerste Amendement — is nog onbeantwoord.