Gate News Berita, pada 25 Maret, kota Baltimore, Amerika Serikat, secara resmi mengajukan gugatan terhadap perusahaan X milik Elon Musk, xAI, dan SpaceX, menuduh alat AI generatif Grok yang dikembangkan mereka mengandung konten seksual tanpa izin, bahkan melibatkan anak di bawah umur, melanggar regulasi perlindungan konsumen setempat. Kasus ini dipandang sebagai ujian penting dalam pengaturan regulasi kecerdasan buatan oleh pemerintah daerah di tengah kurangnya legislasi federal tentang AI.

Gugatan menyebutkan bahwa Grok mampu mengubah gambar tokoh nyata dengan sedikit petunjuk, termasuk fitur “penghilangan pakaian”, yang berpotensi menyebabkan kerusakan serius terhadap privasi dan kesehatan mental pengguna. Firma hukum pengacara DiCello Levitt menyatakan bahwa desain dan penerapan sistem ini memiliki risiko yang jelas, namun tidak diikuti dengan langkah-langkah pembatasan yang memadai. Walikota Baltimore, Brandon M. Scott, menegaskan bahwa konten deepfake yang melibatkan anak di bawah umur akan menimbulkan trauma jangka panjang.

Secara hukum, mitra dari Fathom Legal, Ishita Sharma, menyatakan bahwa inti dari kasus ini adalah penentuan tanggung jawab sistem AI. Jika pengadilan memutuskan bahwa Grok termasuk “pembuat konten aktif” dan bukan alat netral, xAI mungkin menghadapi tanggung jawab hukum yang lebih tinggi. Penetapan ini berpotensi mengubah batasan hukum bagi perusahaan AI dalam hal pembuatan konten.

Dalam gugatan tersebut, data menunjukkan bahwa dalam waktu singkat dari akhir Desember 2025 hingga awal Januari 2026, jumlah gambar seksual yang dihasilkan Grok mencapai antara 1,8 juta hingga 3 juta gambar, sekitar 23.000 di antaranya melibatkan anak di bawah umur. Sementara itu, volume gambar yang dihasilkan platform meningkat secara signifikan setelah Elon Musk melakukan interaksi publik, menambah tekanan regulasi.

Saat ini, Amerika Serikat dan berbagai negara di Eropa telah melakukan penyelidikan terhadap Grok, dan kasus terkait masih berlangsung. Fokus pasar beralih dari inovasi teknologi ke kepatuhan dan pengendalian risiko, dan hasil akhir dari kasus ini berpotensi menjadi preseden penting dalam pengaturan regulasi pembuatan konten AI. (Decrypt)

Penafian: Informasi di halaman ini dapat berasal dari pihak ketiga dan tidak mewakili pandangan atau opini Gate. Konten yang ditampilkan hanya untuk tujuan referensi dan bukan merupakan nasihat keuangan, investasi, atau hukum. Gate tidak menjamin keakuratan maupun kelengkapan informasi dan tidak bertanggung jawab atas kerugian apa pun yang timbul akibat penggunaan informasi ini. Investasi aset virtual memiliki risiko tinggi dan rentan terhadap volatilitas harga yang signifikan. Anda dapat kehilangan seluruh modal yang diinvestasikan. Harap pahami sepenuhnya risiko yang terkait dan buat keputusan secara bijak berdasarkan kondisi keuangan serta toleransi risiko Anda sendiri. Untuk detail lebih lanjut, silakan merujuk ke Penafian.