Polisi Prancis Serbu Kantor X di Paris dalam Penyidikan Grok AI dan Konten Ilegal

Singkatnya

• Penyelidik Prancis menggeledah kantor X di Paris sebagai bagian dari penyelidikan terhadap konten ilegal dan praktik algoritma.
• Kasus ini berkembang setelah adanya keluhan bahwa Grok digunakan untuk menghasilkan gambar seksual non-konsensual, termasuk anak-anak.
• Regulator Inggris telah membuka penyelidikan paralel berdasarkan undang-undang perlindungan data dan keamanan online.

Otoritas Prancis menggeledah kantor X di Paris pada hari Selasa sebagai bagian dari penyelidikan kriminal yang semakin meluas terhadap dugaan pornografi anak yang terkait dengan chatbot AI platform tersebut, Grok. Menurut laporan dari Sky News, penggeledahan dilakukan oleh unit kejahatan siber khusus Prancis bekerja sama dengan Europol. Jaksa mengatakan bahwa pemilik X, Elon Musk, telah dipanggil untuk dimintai keterangan, bersama dengan beberapa eksekutif saat ini dan mantan eksekutif, termasuk mantan CEO Linda Yaccarino. “Penyelidikan ini berkaitan dengan berbagai dugaan tindak pidana yang terkait dengan fungsi dan penggunaan platform, termasuk penyebaran konten ilegal dan bentuk kejahatan online lainnya,” kata Europol dalam sebuah pernyataan. “Europol siap terus mendukung otoritas Prancis seiring berjalannya penyelidikan.”

 Penyelidikan terhadap Grok, yang diluncurkan bulan lalu, berfokus pada tuduhan bahwa X turut serta dalam distribusi materi pelecehan seksual anak dan konten ilegal lainnya, dengan otoritas menuduh bahwa Grok digunakan untuk menghasilkan lebih dari 23.000 gambar seksualisasi anak. Pada bulan Agustus lalu, xAI meluncurkan “Spicy Mode” secara khusus untuk menghasilkan konten NSFW, termasuk kasus terkenal yang melibatkan deepfake Taylor Swift. Dalam sebuah posting di X, departemen Urusan Pemerintah Global dari raksasa media sosial tersebut membantah adanya kesalahan, menyebut penggeledahan sebagai “penyelidikan kriminal yang dipolitisasi terhadap dugaan manipulasi algoritma dan pengambilan data palsu.”

“Penggeledahan yang dilakukan hari ini memperkuat keyakinan kami bahwa penyelidikan ini menyimpang dari hukum Prancis, menghindari proses hukum yang seharusnya, dan membahayakan kebebasan berbicara,” tulis mereka. “X berkomitmen untuk membela hak-hak dasarnya dan hak pengguna. Kami tidak akan takut terhadap tindakan otoritas yudisial Prancis hari ini.” Kelompok advokasi konsumen berpendapat bahwa ketika regulator menyelidiki pengembang AI yang alatnya digunakan untuk membuat konten ilegal, mereka harus memeriksa apakah perusahaan dapat secara wajar memperkirakan bagaimana alat tersebut akan disalahgunakan. “Regulator harus memeriksa apakah pilihan desain perusahaan membuat penyalahgunaan ilegal dapat diperkirakan, apakah penilaian risiko sudah memadai, dan apakah pengamanan telah diuji secara bermakna sebelum peluncuran,” kata J.B. Branch, Advokat Akuntabilitas Big Tech di Public Citizen, kepada Decrypt. “Platform yang mendapatkan keuntungan dari penerapan cepat harus bertanggung jawab atas kerusakan yang dihasilkan dari penerapan tersebut. Itulah yang terjadi di industri lain.” Meskipun hukum saat ini terhadap gambar seksual non-konsensual dan materi pelecehan seksual anak tetap penting, Branch mengatakan bahwa hukum tersebut tidak dirancang untuk AI yang dapat “memproduksi kerusakan secara massal dengan kecepatan yang dapat diskalakan.” “Kami membutuhkan kewajiban yang lebih jelas dan proaktif yang mengharuskan perusahaan mencegah penyalahgunaan berbasis AI sebelum terjadi, termasuk pengujian regulator independen yang dapat menguji masalah secara stres sebelum produk AI dipasarkan,” katanya. “Ketika sesuatu yang serius seperti ini terjadi, alat tersebut harus segera dihapus.” Penyelidikan meluas Penyelidikan terhadap chatbot kini telah meluas ke berbagai yurisdiksi, termasuk Inggris, UE, India, Australia, dan AS. Pada hari yang sama ketika pejabat Prancis menggeledah kantor X di Paris, Office Komisaris Informasi Inggris mengumumkan bahwa mereka juga telah membuka penyelidikan terhadap Grok. “Kami mengambil langkah ini setelah adanya laporan bahwa Grok digunakan untuk menghasilkan gambar seksual non-konsensual dari individu, termasuk anak-anak,” kata Direktur Eksekutif Risiko Regulasi & Inovasi ICO, William Malcolm, dalam sebuah pernyataan. “Pembuatan dan penyebaran konten tersebut menimbulkan kekhawatiran serius di bawah hukum perlindungan data Inggris dan berpotensi menimbulkan bahaya besar bagi masyarakat.”

Menurut Malcolm, kekhawatiran ini berkaitan dengan apakah data pribadi telah diproses secara sah, adil, dan transparan, serta apakah pengamanan yang sesuai telah dibangun ke dalam desain dan penerapan Grok untuk mencegah pembuatan gambar manipulatif yang berbahaya menggunakan data pribadi. “Di mana pengamanan tersebut gagal, individu kehilangan kendali atas data pribadi mereka yang dapat mengekspos mereka pada bahaya serius,” tulisnya. “Memeriksa risiko ini adalah bagian penting dari peran ICO dalam melindungi hak orang dan menuntut organisasi bertanggung jawab saat mereka merancang dan menerapkan teknologi AI.” Tindakan di Eropa adalah yang terbaru menargetkan X dan Grok, bulan lalu regulator media Inggris, Ofcom, membuka penyelidikan apakah X melanggar kewajibannya berdasarkan Undang-Undang Keamanan Online. Pada bulan Januari, setelah reaksi internasional terhadap Grok, xAI mengatakan mereka membatasi kemampuan pengeditan gambar chatbot dan memblokir prompt tertentu terkait pembuatan gambar orang. Penggeledahan di Paris dilakukan sehari setelah Musk mengumumkan bahwa SpaceX mengakuisisi xAI, startup kecerdasan buatan yang sebelumnya menyerap X, menempatkan platform media sosial dan sistem AI-nya di bawah payung perusahaan SpaceX seiring meningkatnya pengawasan regulasi. “Kami menyadari bahwa X atau Grok sekarang menawarkan ‘Spicy Mode’ yang menampilkan konten seksual eksplisit dengan beberapa output yang dihasilkan dengan gambar anak-anak,” kata juru bicara Komisi UE, Thomas Regnier, dalam konferensi pers di Brussels baru-baru ini. “Ini bukan spicy. Ini ilegal. Ini mengerikan. Ini menjijikkan. Ini tidak memiliki tempat di Eropa.” SpaceX dan xAI tidak segera menanggapi permintaan komentar dari Decrypt.