Pengadilan Jerman Memutuskan Google Bertanggung Jawab atas Pernyataan Ringkasan AI Palsu

Sebuah pengadilan Jerman memutuskan bahwa Google bertanggung jawab atas pernyataan palsu yang dibuat di fitur AI Overviews-nya, dalam kasus ketika dua penerbit secara keliru ditautkan ke penipuan dan praktik bisnis yang meragukan. Putusan tersebut muncul setelah Google gagal memperbaiki keluaran yang menyesatkan meski para penerbit telah mengirim surat perintah penghentian (cease-and-desist) lebih awal tahun ini. Pengadilan membedakan AI Overviews dari mesin pencari tradisional, menemukan bahwa alat Google itu membuat pernyataan mandiri dan substantif berdasarkan salah tafsirnya sendiri terhadap tautan di Internet, dan karena hanya Google yang bisa memperbaiki algoritme yang mendasarinya, perusahaan harus dimintai pertanggungjawaban atas klaim-klaim palsu.

Pengadilan Jerman Membedakan AI Overviews dari Hasil Pencarian Tradisional

Kasus ini, yang diangkat oleh The Decoder, melibatkan dua penerbit yang menemukan bahwa AI Overviews Google secara keliru menautkan mereka ke penipuan dan praktik bisnis yang mencurigakan. AI Google membuat pernyataan afirmatif seperti “Ya, [it] dikenal karena praktik bisnis yang meragukan dan sering dipersepsikan sebagai penipuan,” sehingga mencemarkan reputasi para penerbit.

Google mencoba melindungi diri dari tanggung jawab dengan berargumen bahwa kebanyakan pengguna memahami keluaran AI tidak selalu akurat dan harus diverifikasi. Pengadilan menolak pembelaan tersebut, dengan menyimpulkan bahwa berbeda dari mesin pencari tradisional yang hanya menampilkan daftar tautan ke pernyataan pihak ketiga, alat Google membuat “pernyataan independen, baru, dan substantif” berdasarkan salah tafsirnya terhadap tautan di Internet.

Pengadilan menekankan bahwa meski para penerbit mungkin bisa menggugat pihak ketiga atas pernyataan fitnah yang muncul di hasil pencarian Google, hanya Google yang bisa memperbaiki algoritme yang mendasari dan keluaran yang ditampilkan di AI Overviews. Pengadilan menilai argumen Google sangat lemah karena ringkasan AI dalam kasus ini “berisi pernyataan yang sama sekali tidak muncul dalam hasil pencarian.”

Pengadilan Mengeluarkan Injunction Sementara terhadap Google

Pengadilan mengeluarkan injunction sementara yang melarang Google menyebarkan klaim-klaim palsu tersebut pada AI Overviews berikutnya. Putusan ini dapat berdampak global, karena pengadilan tampaknya menjadi yang pertama yang menahan perusahaan AI bertanggung jawab atas “speech” berbasis AI.

Di masa lalu, perusahaan AI mengandalkan penyangkalan yang memperingatkan tentang misinformasi untuk melindungi diri dari gugatan atas keluaran yang tidak dapat dipercaya. Tahun lalu, salah satu pembuat chatbot berargumen bahwa “speech” AI adalah kategori “pure speech” miliknya sendiri dan harus dilindungi oleh Amandemen Pertama.

FAQ

Apa yang diputuskan pengadilan Jerman terkait AI Overviews Google?

Pengadilan Jerman memutuskan bahwa Google bertanggung jawab atas pernyataan palsu yang dibuat dalam AI Overviews. Pengadilan menemukan bahwa alat AI Google membuat pernyataan mandiri dan substantif berdasarkan salah tafsirnya sendiri terhadap tautan Internet, sehingga membedakannya dari mesin pencari tradisional yang hanya menampilkan daftar tautan ke konten pihak ketiga.

Mengapa pengadilan menolak pembelaan Google dalam kasus ini?

Pengadilan menolak argumen Google bahwa pengguna memahami keluaran AI harus diverifikasi karena hanya Google yang bisa memperbaiki algoritme yang mendasari dan keluaran pada AI Overviews. Pengadilan juga mencatat bahwa pernyataan palsu dalam ringkasan AI tidak muncul sama sekali di hasil pencarian, sehingga pembelaan Google menjadi sangat lemah.