Keakuratan dan keandalan rekomendasi pencarian AI Google tetap menjadi tantangan yang mematikan

Google bekerja keras untuk menghilangkan jawaban palsu dan berpotensi berbahaya dari hasil pencarian AI-nya. Namun, fitur “Ikhtisar AI” yang baru terkadang salah menyajikan lelucon dan sarkasme di media sosial dan situs satir sebagai fakta.

Hasil pencarian AI Google yang baru-baru ini dirilis telah menarik banyak perhatian, tetapi alasannya tidak sepositif yang diharapkan. Sebagai bagian dari strategi “Twin Times” yang baru diluncurkan, raksasa teknologi itu mengumumkan banyak alat AI baru minggu lalu. Ini diikuti oleh perubahan signifikan pada layanan pencarian web tanda tangannya, di mana jawaban atas pertanyaan dalam hasil pencarian sekarang ditampilkan dalam bahasa alami langsung di atas tautan situs web.

Sementara pembaruan Google membuat teknologi pencarian lebih maju dan mampu menanggapi pertanyaan pengguna yang lebih kompleks, itu juga menimbulkan beberapa kekhawatiran. Misalnya, AI terkadang dapat menyajikan informasi yang salah atau menyesatkan kepada pengguna saat memproses hasil pencarian, yang sangat bermasalah dalam hal topik sensitif seperti eugenika.

Eugenika telah salah digunakan untuk beberapa kebijakan sejarah yang tidak manusiawi, sehingga keakuratan dan sensitivitas informasinya sangat penting. Selain itu, AI juga memiliki masalah akurasi yang tidak memadai saat mengidentifikasi beberapa hal tertentu, seperti membedakan antara jamur beracun dan tidak beracun.

Ini mengingatkan kita tentang perlunya ekstra hati-hati saat menggunakan alat pencarian AI untuk pertanyaan terkait kesehatan dan keselamatan dan untuk mencari konfirmasi profesional bila memungkinkan.

Google AI, saat memberikan jawaban “ikhtisar AI”, terkadang mengutip konten dari media sosial seperti Reddit, yang mungkin awalnya ditujukan untuk tujuan lucu atau sarkastik. Ini telah menghasilkan beberapa jawaban yang jelas salah atau konyol yang ditawarkan kepada pengguna.

Misalnya, seorang pengguna melaporkan bahwa ketika ditanya bagaimana mengatasi depresi, Google AI sebenarnya menyarankan “melompat dari Jembatan Golden Gate.” Jawaban lain secara tidak masuk akal mengkonfirmasi kemampuan anti-gravitasi bahwa orang dapat tetap mengenakan celana pendek long karena mereka tidak melihat ke bawah.

Contoh-contoh ini menunjukkan bahwa meskipun AI telah membuat kemajuan dalam memberikan hasil pencarian, masih ada kekurangan dalam akurasi dan keandalan yang perlu ditingkatkan lebih lanjut.

Kemitraan Google dengan Reddit dirancang untuk memudahkan pengguna menemukan dan berpartisipasi dalam komunitas dan diskusi yang menarik minat mereka. Namun, kolaborasi ini juga mengungkap beberapa risiko, terutama ketika AI memproses konten dari Reddit. Karena AI mungkin tidak memiliki kemampuan untuk membedakan keaslian atau konteks informasi, AI dapat mengadopsi dan mengutip informasi di Reddit tanpa diskriminasi.

Adopsi informasi yang sembarangan ini dapat menyebabkan beberapa saran yang menyesatkan atau bahkan konyol muncul di hasil pencarian. Misalnya, AI pernah memberikan saran yang tidak pantas bahwa anak-anak harus makan setidaknya satu batu kecil sehari, dan juga salah memberi label saran itu berasal dari seorang ahli geologi di University of California, Berkeley. Contoh ini menggambarkan bagaimana AI dapat menyesatkan dengan mengabaikan kredibilitas dan kesesuaian informasi saat memproses informasi di web.

Sementara Google telah menghapus atau mengoreksi beberapa jawaban yang jelas konyol, model yang dihasilkan AI terkadang menghasilkan jawaban yang tidak akurat atau fiktif, sebuah fenomena yang dikenal sebagai “halusinasi.” “Halusinasi” ini dapat dianggap sebagai pernyataan yang tidak benar karena AI menciptakan sesuatu yang tidak faktual.

Ini menunjukkan bahwa AI perlu ditingkatkan dalam membedakan keaslian dan konteks informasi, dan perlu dioptimalkan lebih lanjut untuk memastikan bahwa informasi yang diberikan akurat dan dapat diandalkan.

Pada saat yang sama, Google AI telah keliru merekomendasikan penggunaan lem untuk mencegah keju terlepas dari pizza, sebuah saran yang berasal dari komentar berusia satu dekade di Reddit.

Model ChatGPT OpenAI telah menjadi kasus rekayasa, termasuk menuduh profesor hukum Jonathan Turley melakukan kekerasan seksual berdasarkan perjalanan yang tidak dia lakukan. Insiden ini mencerminkan fakta bahwa AI mungkin terlalu percaya diri dalam memproses informasi dan gagal membedakan secara akurat antara keaslian dan kepalsuan konten di Internet.

Selain itu, terlalu percaya diri AI dapat menyebabkannya tanpa pandang bulu menerima semua informasi di Internet sebagai benar, dan kepercayaan ini dapat menyebabkan penilaian yang salah, seperti salah menempatkan kesalahan pada mantan eksekutif Google dan salah membuat vonis bersalah terhadap perusahaan dalam konteks undang-undang antimonopoli.

Saat pengguna menelusuri pertanyaan terkait budaya pop di Google, fitur yang disarankan penelusuran AI terkadang dapat menghasilkan beberapa hasil yang lucu atau membingungkan. Ini mungkin disebabkan oleh fakta bahwa AI mungkin menghadapi tantangan dalam memahami konten budaya pop, terutama jika mengandung humor, sindiran, atau konteks sosial tertentu. Mungkin sulit bagi AI untuk secara akurat memahami maksud sebenarnya dari konten ini, menghasilkan saran atau jawaban yang mungkin tidak sesuai dengan harapan pengguna, memicu beberapa reaksi yang tidak terduga.

、

Selain itu, meskipun AI telah memperbarui rekomendasinya untuk konsumsi batu anak-anak, mencatat bahwa kemungkinan penyebabnya termasuk rasa ingin tahu, masalah pemrosesan sensorik, atau gangguan makan, tanggapan ini masih memerlukan evaluasi profesional dan tidak boleh digunakan sebagai panduan akhir. Ini menggarisbawahi perlunya ekstra hati-hati dan mencari saran profesional saat menggunakan informasi yang diberikan oleh AI, terutama dalam hal kesehatan dan keselamatan.

Kesimpulan:

Meskipun fitur saran pencarian Google AI telah membuat kemajuan teknologi yang signifikan, kurangnya akurasi dan keandalannya masih dapat menyebabkan konsekuensi serius. Dari adopsi informasi tanpa pandang bulu di platform media sosial seperti Reddit, hingga informasi yang menyesatkan tentang topik sensitif seperti eugenika, hingga kriminalisasi diri yang tidak tepat di bidang hukum, insiden ini telah menyoroti kekurangan signifikan dalam penyaringan dan penilaian informasi AI.

Selain itu, masalah model AI mengarang fakta atau menciptakan “halusinasi” juga menunjukkan keterbatasan mereka ketika berhadapan dengan masalah yang kompleks. Oleh karena itu, kita harus waspada tentang informasi yang diberikan oleh AI, mencari nasihat profesional, dan meminta pengembang dan peneliti untuk terus meningkatkan teknologi AI untuk memastikan bahwa itu membawa lebih banyak manfaat long bagi kemanusiaan daripada risiko.