GLAAD merilis laporan pada Rabu yang memperingatkan bahwa sistem kecerdasan buatan (AI) memperkuat bias anti-LGBTQ, misinformasi, dan diskriminasi di bidang layanan kesehatan, pekerjaan, perumahan, dan pinjaman. Laporan tersebut berjudul 'Build for Everyone: A Framework for LGBTQ Representation and Safety in AI,' berpendapat bahwa AI yang dilatih dengan data yang bias atau tidak lengkap akan memperkuat stereotip dan menghasilkan hasil yang diskriminatif saat teknologinya semakin tertanam dalam kehidupan sehari-hari. Presiden dan CEO GLAAD Sarah Kate Ellis menyatakan dalam laporan tersebut bahwa 'AI adalah isu hak sipil' dan menyerukan para pemimpin teknologi untuk secara proaktif menciptakan produk yang aman, memperingatkan bahwa netralitas kini bukan lagi pilihan dalam pengembangan AI yang bertanggung jawab.
Laporan GLAAD Mengidentifikasi Risiko Inti Bias AI bagi Pengguna LGBTQ
Laporan tersebut mengidentifikasi area yang menjadi perhatian, termasuk data pelatihan yang bias, misinformasi anti-LGBTQ, hasil diskriminatif dalam sistem AI prediktif, kegagalan moderasi konten, dan risiko privasi. GLAAD berpendapat bahwa sistem AI yang dilatih dengan informasi yang tidak lengkap atau tidak akurat tentang orang LGBTQ dapat memperkuat stereotip dan menekan suara LGBTQ. Studi tersebut menyebutkan bahwa kegagalan mempertimbangkan pengalaman LGBTQ dalam data pelatihan, desain produk, dan tata kelola dapat menimbulkan dampak buruk bagi komunitas yang terpinggirkan serta menghasilkan produk yang tidak akurat dan berkualitas lebih rendah yang dapat menggerus kepercayaan pengguna.
Daya Beli LGBTQ Mencapai $4,7 Triliun Menurut Studi 2023
Ellis berargumen dalam laporan tersebut bahwa AI yang bertanggung jawab adalah kebutuhan bisnis untuk mempersiapkan perusahaan AI di masa depan, seraya mencatat bahwa lebih dari 20 persen Gen Z adalah LGBTQ. Menurut studi 2023 oleh firma penasihat dan investasi LGBT Capital, daya beli global orang LGBTQ adalah $4,7 triliun, dan jumlah itu diperkirakan mencapai $33 triliun pada 2030. Ellis menulis bahwa jika orang LGBTQ adalah sebuah negara, mereka akan mewakili ekonomi terbesar ke-4 di dunia, dengan menyatakan bahwa individu-individu ini adalah karyawan dan konsumen masa depan.
Kasus Bias AI Baru Termasuk Gugatan xAI dan Perang Regulasi Colorado
Laporan ini hadir di tengah perdebatan berkelanjutan mengenai bias AI. Pada bulan Mei, para peneliti menemukan bahwa model AI terkemuka secara konsisten lebih mengutamakan Katolik saat merespons dengan kurang menguntungkan terhadap Saksi-Saksi Yehuwa, ateisme, dan agnostisisme. Awal bulan ini, mantan insinyur xAI Devin Kim menggugat xAI dan SpaceX, dengan mendakwa ia dipecat setelah memperingatkan bahwa Grok tidak memiliki perlindungan yang memadai terhadap misinformasi dan bias. xAI tengah berjuang dalam perkara hukum melawan Colorado terkait undang-undang negara bagian yang mengharuskan perusahaan menilai dan mengurangi risiko diskriminasi dalam sistem AI yang digunakan untuk keputusan yang melibatkan perumahan, pekerjaan, dan pinjaman.
Agen AI Otonom Berpotensi Mengotomatiskan Hasil Diskriminatif
GLAAD memperingatkan bahwa kekhawatiran menjadi semakin besar saat perusahaan mendorong agen AI yang mampu menjalankan tugas dengan pengawasan manusia yang terbatas. Studi tersebut menyatakan bahwa agen otonom dapat mewarisi bias yang sudah ada dan mengotomatiskan hasil yang diskriminatif, seperti mengecualikan penyedia layanan kesehatan yang mendukung LGBTQ dari hasil pencarian atau membuat asumsi yang keliru tentang identitas pengguna. Laporan tersebut mencatat bahwa meski tidak spesifik untuk orang LGBTQ, tantangan yang muncul mencakup halusinasi model atau perilaku menyenangkan (sycophantic) yang menghasilkan misinformasi tentang topik-topik penting seperti kesehatan atau pemilu.
GLAAD Menyerukan Data Pelatihan yang Ditingkatkan dan Pengawasan Regulasi
Untuk mencegah risiko agar tidak semakin tertanam dalam sistem AI, GLAAD meminta pengembang untuk meningkatkan representasi LGBTQ dalam data pelatihan, memperkuat perlindungan privasi, menjaga pengawasan manusia terhadap sistem moderasi, serta bekerja lebih erat dengan kelompok advokasi. Laporan tersebut juga menyerukan akuntabilitas industri yang lebih kuat dan pengawasan regulasi. Ellis menulis bahwa untuk membangun AI yang etis, inklusif, dan bertanggung jawab, para pemimpin teknologi harus secara proaktif menerapkan praktik yang disengaja guna menciptakan produk yang aman.
FAQ
Apa yang diperingatkan GLAAD tentang sistem AI pada Rabu?
GLAAD merilis laporan pada Rabu yang memperingatkan bahwa sistem AI memperkuat bias anti-LGBTQ, misinformasi, dan diskriminasi di bidang layanan kesehatan, pekerjaan, perumahan, dan pinjaman. Laporan tersebut berpendapat bahwa AI yang dilatih dengan data yang bias atau tidak lengkap akan memperkuat stereotip dan menghasilkan hasil yang diskriminatif.
Berapa daya beli global orang LGBTQ menurut studi 2023?
Menurut studi 2023 oleh LGBT Capital, daya beli global orang LGBTQ adalah $4,7 triliun, dengan jumlah tersebut diperkirakan mencapai $33 triliun pada 2030. Lebih dari 20 persen Gen Z adalah LGBTQ, yang mewakili karyawan dan konsumen masa depan.
Gugatan apa yang diajukan terhadap xAI pada awal bulan ini?
Awal bulan ini, mantan insinyur xAI Devin Kim menggugat xAI dan SpaceX, dengan mendakwa ia dipecat setelah memperingatkan bahwa Grok tidak memiliki perlindungan yang memadai terhadap misinformasi dan bias. xAI juga tengah berjuang dalam perkara hukum melawan Colorado terkait undang-undang negara bagian yang mengharuskan perusahaan menilai dan mengurangi risiko diskriminasi dalam sistem AI.
