xAI Gagal Menangguhkan Larangan AI Pembuat Foto Telanjang Palsu di Minnesota

Minnesota masih dapat menegakkan undang-undang barunya yang menyasar pembuatan gambar telanjang palsu dengan AI, sementara xAI milik Elon Musk menggugatnya di pengadilan federal. Putusan terbaru bukanlah keputusan akhir mengenai konstitusionalitas aturan tersebut: Hakim Donovan W. Frank menolak permohonan perintah pendahuluan (preliminary injunction) dari xAI, sehingga undang-undang tetap berlaku selama proses perkara berlangsung. 211

Apa yang dilarang oleh hukum Minnesota?

Minnesota House File 1606 (HF 1606) mulai berlaku pada 1 Agustus 2026. Aturan ini menyasar penyedia teknologi AI yang memungkinkan pengguna menghasilkan gambar seksual tertentu atau gambar bagian intim dari orang yang dapat diidentifikasi, termasuk melalui alat seperti Grok Imagine milik xAI. 1911

Aturan itu kerap disebut sebagai larangan terhadap nudification, yakni penggunaan AI untuk mengubah atau menghasilkan gambar maupun video realistis sehingga seseorang yang dapat diidentifikasi tampak memiliki bagian tubuh intim yang sebenarnya tidak ada dalam materi aslinya. Sejumlah laporan menyebutnya sebagai undang-undang negara bagian pertama di Amerika Serikat yang secara khusus menargetkan praktik tersebut. 24

Jaksa Agung Minnesota dapat meminta perintah pengadilan dan menjatuhkan denda perdata hingga US$500.000 per pelanggaran. 59

Argumen xAI: pembatasan kebebasan berekspresi

xAI menggugat Jaksa Agung Minnesota Keith Ellison pada akhir Juli. Perusahaan itu berpendapat HF 1606 merupakan pembatasan berbasis konten yang inkonstitusional terhadap kebebasan berbicara dan alat ekspresi visual, yang dilindungi Amendemen Pertama Konstitusi AS. Menurut dokumen xAI, tanggung jawab hukum dalam aturan tersebut bergantung pada isi gambar hasil suntingan, dan cakupannya dapat meluas melampaui citra seksual tanpa persetujuan hingga ekspresi yang dilindungi hukum. 2627

xAI mula-mula meminta penangguhan darurat sebelum aturan berlaku, lalu mengajukan perintah pendahuluan agar penegakan hukum dihentikan sementara perkara konstitusional diproses. Perusahaan itu juga mengatakan aturan tersebut akan memengaruhi pengguna Grok dan Grok Imagine di Minnesota. 3236

Minnesota membantah cara pandang itu. Ellison menyatakan aturan tersebut dirancang secara sempit untuk menangani citra seksual berbasis AI yang dibuat tanpa persetujuan. Posisi negara bagian itu adalah bahwa fitur produk yang dipersoalkan merupakan kemampuan teknologi yang dapat diatur, bukan bentuk ujaran yang mendapat perlindungan seperti diklaim xAI. 16

Mengapa hakim menolak permohonan xAI?

Pada 4 September, Hakim Frank menolak permohonan xAI. Putusan itu tidak memutus apakah HF 1606 melanggar Amendemen Pertama. Sebaliknya, pengadilan menyimpulkan bahwa xAI belum menunjukkan adanya kerugian segera dan tidak dapat diperbaiki (irreparable harm)—syarat penting untuk memperoleh perintah pendahuluan. 1122

Faktor waktu ikut dipertimbangkan. Pada 31 Juli, pengadilan sebelumnya sudah menolak permohonan perintah penahanan sementara dari xAI. Hakim mencatat perusahaan tersebut baru mencari bantuan darurat sesaat sebelum undang-undang berlaku. Setelah itu, perkara diproses secara dipercepat untuk menilai permohonan perintah pendahuluan. 1114

Dalam putusan berikutnya, pengadilan juga menilai keseimbangan potensi kerugian dan kepentingan publik lebih berpihak kepada Minnesota. Hakim Frank menggambarkan aturan itu sebagai ketentuan perdata yang disahkan melalui proses demokratis untuk menanggulangi dampak penyebaran citra AI seksual yang fotorealistis. 511

Dampak putusan ini—dan yang belum diputus

Secara praktis, Minnesota dapat menegakkan HF 1606 selama gugatan berlanjut. Penyedia AI yang tercakup berpotensi menghadapi sanksi berdasarkan aturan tersebut pada periode itu. 59

Namun, putusan ini bukan pengesahan final bahwa hukum tersebut konstitusional. Pengadilan belum menilai pokok argumen Amendemen Pertama yang diajukan xAI. xAI menyatakan akan mengajukan banding atas penolakan itu, sementara gugatan utamanya tetap berjalan. 23

Mengapa Grok dan alat “nudification” menjadi pusat sengketa

Perkara ini menyoroti pertanyaan kebijakan yang lebih luas: sampai sejauh mana negara bagian dapat membebankan kewajiban langsung kepada penyedia produk AI ketika alat mereka dapat menghasilkan citra seksual realistis tanpa persetujuan dari orang yang dapat dikenali.

Minnesota berpendapat fitur nudification yang mudah diakses dapat menimbulkan bahaya serius sehingga memerlukan regulasi yang terarah. Sebaliknya, xAI menilai undang-undang itu membatasi teknologi kreatif serbaguna berdasarkan isi ekspresi yang dihasilkan. 1217

Untuk saat ini, putusan prosedural berpihak kepada Minnesota. Pertanyaan yang lebih menentukan—apakah pembatasan terhadap alat AI seperti ini dapat lolos dari pengujian Amendemen Pertama—masih belum terjawab.