Koalisi Desak OpenAI Cabut Langkah AI Pemilu Atas Kekhawatiran Keselamatan Anak

Singkatnya

• Sekelompok kelompok advokasi mendesak OpenAI untuk menarik inisiatif pemungutan suara AI di California.
• Kritikus mengatakan bahwa langkah tersebut akan membatasi akuntabilitas hukum dan melemahkan perlindungan bagi anak-anak.
• Meskipun OpenAI telah menghentikan kampanye tersebut, koalisi mengklaim bahwa mereka tetap mengendalikan inisiatif tersebut menjelang tenggat waktu penting.

Sekelompok kelompok advokasi mendesak pengembang ChatGPT, OpenAI, untuk menarik inisiatif pemungutan suara AI di California yang dikritik dapat melemahkan perlindungan bagi anak-anak dan membatasi akuntabilitas hukum perusahaan AI. Dalam surat yang dikirim ke OpenAI pada hari Rabu, yang ditinjau oleh Decrypt, kelompok tersebut berpendapat bahwa langkah tersebut akan mengunci perlindungan keselamatan anak yang sempit, membatasi kemampuan keluarga untuk mengajukan gugatan, dan membatasi kemampuan California untuk memperkuat undang-undang AI di masa depan. Surat tersebut, yang ditandatangani oleh lebih dari dua puluh organisasi termasuk organisasi non-profit kebijakan AI Encode AI, Center for Humane Technology, dan Electronic Privacy Information Center, meminta OpenAI membubarkan komite pemungutan suara dan mundur dari proposal tersebut sementara para pembuat undang-undang bekerja pada legislasi.

 “Permintaan utama di sini adalah agar OpenAI menarik diri dari pemungutan suara,” kata Adam Billen, co-director eksekutif Encode AI, kepada Decrypt. Perselisihan ini berpusat pada usulan “Parents & Kids Safe AI Act,” sebuah inisiatif pemungutan suara di California yang didukung oleh OpenAI dan Common Sense Media yang akan menetapkan aturan tentang bagaimana chatbot AI berinteraksi dengan anak di bawah umur, termasuk persyaratan keselamatan dan standar kepatuhan. Dalam surat tersebut, kelompok-kelompok tersebut berpendapat bahwa aturan tersebut masih kurang. Mereka mengatakan bahwa langkah tersebut mendefinisikan bahaya terlalu sempit, membatasi penegakan hukum, dan membatasi kemampuan keluarga untuk mengajukan klaim ketika anak-anak dirugikan.

Namun, OpenAI mengendalikan inisiatif pemungutan suara tersebut, kata Billen. “OpenAI memiliki kekuasaan untuk menariknya atau menaruh dana untuk pengumpulan tanda tangan. Semua otoritas hukum berada di tangan mereka,” katanya. “Mereka sebenarnya belum menarik inisiatif tersebut dari pemungutan suara. Ini adalah taktik umum di California, di mana Anda mengajukan inisiatif dan menaruh dana di komite.” Surat tersebut menunjuk pada definisi “kerusakan parah” dalam inisiatif, yang berfokus pada cedera fisik terkait bunuh diri atau kekerasan, mengecualikan berbagai dampak kesehatan mental yang telah menjadi perhatian peneliti dan keluarga. Selain itu, surat tersebut menyoroti ketentuan yang akan melarang orang tua dan anak-anak mengajukan klaim berdasarkan inisiatif dan membatasi alat penegakan hukum yang tersedia bagi pejabat negara bagian dan lokal. Kekhawatiran lain berkaitan dengan bagaimana proposal memperlakukan data pengguna. Kelompok-kelompok tersebut berpendapat bahwa definisi konten pengguna yang dienkripsi dapat menyulitkan akses terhadap percakapan chatbot yang telah menjadi bukti utama dalam gugatan hukum terbaru. “Kami menafsirkan itu sebagai upaya untuk menghalangi keluarga dari kemampuan mengungkapkan log chat anak-anak mereka yang telah meninggal di pengadilan,” kata Billen. Surat tersebut juga memperingatkan bahwa langkah tersebut bisa sulit diubah jika disahkan. Perubahan memerlukan suara dua pertiga di legislatif dan mengaitkan perubahan masa depan dengan standar seperti mendukung “kemajuan ekonomi,” yang menurut para advokat dapat membatasi kemampuan pembuat undang-undang untuk merespons risiko baru. Billen mengatakan bahwa inisiatif tersebut tetap menjadi faktor dalam negosiasi yang sedang berlangsung di Sacramento, meskipun OpenAI telah menghentikan upayanya untuk memenuhi syarat agar inisiatif tersebut masuk ke pemungutan suara.

“Mereka memiliki dana sebesar 10 juta dolar di komite, lalu mereka mengatakan kepada legislatif, jika kalian tidak melakukan apa yang kami inginkan, kami akan menaruh dana dan mendapatkan tanda tangan untuk memasukkan ini ke pemungutan suara, dan jika disetujui, itu akan mengesampingkan apa pun yang dilakukan legislatif,” katanya. “Jadi, yang sedang terjadi sekarang adalah mereka mencoba mengarahkan dan mengendalikan apa yang dilakukan legislator melalui penggunaan inisiatif sebagai ancaman yang mereka tinggal di atas meja.” OpenAI bukan satu-satunya perusahaan yang menghadapi pengawasan terkait bahaya chatbot. Awal bulan ini, keluarga Jonathan Gavalas menggugat Google, mengklaim bahwa Gemini menyebarkan delusi yang meningkat menjadi kekerasan dan akhirnya menyebabkan bunuh diri. Namun, Billen mengatakan pendekatan OpenAI mencerminkan pola yang lebih luas di industri teknologi. “Strategi lobi yang digunakan untuk AI oleh perusahaan besar ini—Google, Meta, Amazon—adalah strategi yang sama yang sebelumnya digunakan untuk isu teknologi lain,” katanya. Untuk saat ini, koalisi fokus agar OpenAI menarik langkah tersebut dan membiarkan para pembuat undang-undang melanjutkan proses legislatif. “Ini sangat penting, terutama bagi perusahaan yang mengeluarkan teknologi tersebut, agar mereka bukanlah pihak yang menulis aturan yang mengatur mereka, karena itu bukan perlindungan yang berarti,” kata Billen. OpenAI belum segera menanggapi permintaan komentar dari Decrypt.