- xAI gagal memblokir larangan AS pertama terhadap “nudifikasi” AI.
- Perusahaan Elon Musk mengajukan mosi pengadilan terkait undang-undang Minnesota yang melarang pembuatan deepfake telanjang, tetapi ditolak.
- Kasus ini bisa menetapkan preseden bagi seluruh industri AI generatif.
Sebuah pengadilan federal AS menolak permintaan xAI Elon Musk untuk blok sementara terhadap undang-undang negara bagian Minnesota, yang menjadi regulasi pertama di negara itu yang melarang membuat atau mengedit gambar dengan menambahkan tubuh telanjang tanpa persetujuan orang tersebut.
“xAI mengajukan mosi pada 29 Juli 2026, hampir tiga bulan setelah undang-undang ditandatangani, dan hanya tiga hari sebelum undang-undang dijadwalkan berlaku. Penundaan semacam ini dalam mengajukan tindakan dan mosi menunjukkan bahwa kerugian tidak segera terjadi,” demikian perintah pengadilan menyatakan.
Pada saat yang sama, pengadilan tidak menutup kemungkinan untuk membahas kembali masalah ini nanti. Sidang mengenai permohonan injungsi sementara dijadwalkan pada 19 Agustus.
xAI Mengatakan Hukum Terlalu Luas
xAI tidak membantah hak negara untuk memberantas layanan yang digunakan untuk membuat deepfake intim tanpa persetujuan, tetapi mengatakan undang-undang tersebut melanggar Amandemen Pertama Konstitusi AS mengenai kebebasan berbicara, menurut NBC News.
Dokumen menyatakan:
Hukum tersebut terlalu luas dan terlalu sempit. Dan ada alternatif yang jauh lebih sedikit membatasi yang berfungsi untuk mencapai tujuan yang sama.
xAI juga menekankan bahwa platform tersebut sudah melarang pengguna untuk “menghasilkan gambar telanjang atau seksual terhadap orang tanpa persetujuan mereka.”
Perusahaan juga berargumen bahwa aturan baru tersebut dapat menciptakan risiko hukum bahkan dalam kasus-kasus di mana:
- orang tersebut memberikan persetujuan untuk membuat gambar
- mereka membuatnya sendiri
- konten tidak pernah dipublikasikan
- Gambar tersebut memiliki nilai seni, satir, pendidikan, ilmiah, medis, atau politik.
Undang-undang tersebut disahkan setelah skandal yang mengelilingi Grok
Undang-undang baru Minnesota ditandatangani oleh Gubernur Tim Walz pada Mei 2026. Dokumen tersebut melarang pemilik situs web, aplikasi, atau perangkat lunak untuk mengizinkan pengguna membuat gambar yang disebut nudified, serta melarang iklan fitur semacam itu.
Menurut hukum, konten nudified merujuk pada gambar atau video yang telah diubah atau dihasilkan sedemikian rupa sehingga menunjukkan bagian tubuh intim yang tidak ada dalam versi aslinya, jika hasilnya begitu realistis sehingga orang rata-rata akan menganggapnya sebagai nyata.
Pelanggaran hukum membawa:
- Denda sipil hingga $500.000 untuk setiap insiden akses, penggunaan, atau unggah yang tidak sah
- Kompensasi untuk penderitaan emosional
- Ganti kerugian hukuman
- Penggantian biaya hukum
Pada saat yang sama, hukum tidak menetapkan tanggung jawab pidana.
Jaksa Agung Minnesota Keith Ellison menyerukan pengadilan untuk menolak permintaan xAI, dengan mengatakan perusahaan itu sendiri menciptakan "keadaan darurat buatan" dengan pergi ke pengadilan hanya tiga bulan setelah undang-undang tersebut disahkan.
Setelah gugatan diajukan, Gubernur Tim Walz sebentar menanggapi di X:
“Sampai jumpa di pengadilan, orang jijik.“
Skandal Grok Memperkuat Perdebatan Mengenai Regulasi AI
Gugatan xAI mengikuti serangkaian skandal yang mengelilingi fitur Imagine di chatbot Grok. Setelah model diluncurkan pada akhir Desember 2025, pengguna mulai membuat secara masif deepfake seksual terhadap orang-orang nyata tanpa persetujuan mereka, memicu kritik internasional dan penyelidikan di beberapa yurisdiksi.
Pada Januari 2026, menurut laporan media, Apple mengancam akan menghapus Grok dari toko aplikasinya kecuali xAI memperketat pembatasan. Meskipun demikian, hingga April, pengguna masih menemukan cara untuk melewati perlindungan yang telah diterapkan perusahaan.
Dalam latar belakang perkembangan ini, Komisi Eropa telah meluncurkan penyelidikan resmi terhadap X terkait pelanggaran potensial terhadap Undang-Undang Layanan Digital (DSA) yang terkait dengan penggunaan Grok untuk menghasilkan gambar seksual.
Pada saat yang sama, kasus xAI telah menarik respons campur aduk dari organisasi hak asasi manusia. American Civil Liberties Union of Minnesota (ACLU Minnesota), yang awalnya mendukung RUU tersebut, menentang versi akhir setelah direvisi.
Meskipun kami percaya bahwa menciptakan teknologi untuk mengubah atau 'menudifikasi' foto orang yang dapat diidentifikasi dilindungi oleh Amandemen Pertama, kami juga mengakui bahwa penciptaan dan penyebaran bahan semacam itu tanpa persetujuan dapat menimbulkan kerusakan pada orang-orang yang muncul dalam gambar-gambar tersebut.
Selain itu, gugatan kelas telah diajukan terhadap xAI dan perusahaan induknya, dengan para penggugat menuduh bahwa Grok membuat atau mendistribusikan deepfake telanjang mereka, termasuk gambar yang melibatkan anak di bawah umur. Salah satu yang terbaru adalah gugatan yang diajukan oleh seorang anggota parlemen Inggris.
Pesan Court Denied xAI’s Bid to Block the First US Ban on AI “Nudification” Services pertama kali muncul di INCRYPTED.