Độ chính xác và độ tin cậy của các đề xuất tìm kiếm AI của Google vẫn là một thách thức chết người

Google đang nỗ lực để loại bỏ các câu trả lời sai và nguy hiểm tiềm tàng khỏi kết quả tìm kiếm AI của mình. Tuy nhiên, tính năng “Tổng quan AI” mới đôi khi xuyên tạc những câu chuyện cười và mỉa mai trên phương tiện truyền thông xã hội và các trang web châm biếm là sự thật.

Kết quả tìm kiếm AI được công bố gần đây của Google đã thu hút rất nhiều sự chú ý, nhưng lý do không tích cực như mong đợi. Là một phần của chiến lược “Twin Times” mới ra mắt, gã khổng lồ công nghệ đã công bố một loạt các công cụ AI mới vào tuần trước. Tiếp theo là một thay đổi đáng kể đối với dịch vụ tìm kiếm web đặc trưng của nó, nơi câu trả lời cho các câu hỏi trong kết quả tìm kiếm hiện được hiển thị bằng ngôn ngữ tự nhiên trực tiếp trên đầu các liên kết trang web.

Mặc dù bản cập nhật của Google làm cho công nghệ tìm kiếm tiên tiến hơn và có thể trả lời các câu hỏi phức tạp hơn của người dùng, nhưng nó cũng làm dấy lên một số lo ngại. Ví dụ: AI đôi khi có thể trình bày thông tin không chính xác hoặc gây hiểu lầm cho người dùng khi xử lý kết quả tìm kiếm, điều này đặc biệt có vấn đề khi nói đến các chủ đề nhạy cảm như thuyết ưu sinh.

thuyết ưu sinh đã được sử dụng sai cho một số chính sách vô nhân đạo của lịch sử, vì vậy tính chính xác và nhạy cảm của thông tin của nó là đặc biệt quan trọng. Ngoài ra, AI còn gặp vấn đề không đủ chính xác khi xác định một số thứ cụ thể, chẳng hạn như phân biệt giữa nấm độc và nấm không độc.

Điều này nhắc nhở chúng ta về sự cần thiết phải thận trọng hơn khi sử dụng các công cụ tìm kiếm AI cho các truy vấn liên quan đến sức khỏe và an toàn và tìm kiếm xác nhận chuyên nghiệp bất cứ khi nào có thể.

Google AI, khi cung cấp câu trả lời “tổng quan về AI”, đôi khi trích dẫn nội dung từ phương tiện truyền thông xã hội như Reddit, ban đầu có thể nhằm mục đích hài hước hoặc châm biếm. Điều này đã dẫn đến một số câu trả lời rõ ràng là sai lầm hoặc vô lý được cung cấp cho người dùng.

Ví dụ, một người dùng đã báo cáo rằng khi được hỏi làm thế nào để đối phó với trầm cảm, Google AI thực sự đề nghị “nhảy khỏi Cầu Cổng Vàng”. Các câu trả lời khác xác nhận một cách vô lý khả năng chống trọng lực rằng mọi người có thể mặc quần đùi long như họ không nhìn xuống.

Những ví dụ này cho thấy rằng mặc dù AI đã đạt được tiến bộ trong việc cung cấp kết quả tìm kiếm, nhưng vẫn còn những thiếu sót về độ chính xác và độ tin cậy cần được cải thiện hơn nữa.

Quan hệ đối tác của Google với Reddit được thiết kế để giúp người dùng dễ dàng tìm và tham gia vào các cộng đồng và cuộc thảo luận mà họ quan tâm. Tuy nhiên, sự hợp tác cũng bộc lộ một số rủi ro, đặc biệt là khi AI xử lý nội dung từ Reddit. Vì AI có thể không có khả năng phân biệt tính xác thực hoặc bối cảnh của thông tin, nó có thể áp dụng và trích dẫn thông tin trên Reddit mà không bị phân biệt đối xử.

Việc áp dụng thông tin bừa bãi này có thể dẫn đến một số đề xuất gây hiểu lầm hoặc thậm chí vô lý xuất hiện trong kết quả tìm kiếm. Ví dụ, AI đã từng đưa ra một gợi ý không phù hợp rằng trẻ em nên ăn ít nhất một hòn đá nhỏ mỗi ngày, và cũng dán nhãn không chính xác cho đề xuất này là đến từ một nhà địa chất học tại Đại học California, Berkeley. Ví dụ này minh họa cách AI có thể gây hiểu lầm bằng cách bỏ qua độ tin cậy và tính phù hợp của thông tin khi xử lý thông tin trên web.

Trong khi Google đã loại bỏ hoặc sửa chữa một số câu trả lời rõ ràng là vô lý, các mô hình do AI tạo ra đôi khi tạo ra các câu trả lời không chính xác hoặc hư cấu, một hiện tượng được gọi là “ảo giác”. Những “ảo giác” này có thể được coi là những tuyên bố không đúng sự thật bởi vì AI đang tạo ra một cái gì đó không thực tế.

Điều này cho thấy AI cần được cải thiện trong việc phân biệt tính xác thực và bối cảnh của thông tin, và cần được tối ưu hóa hơn nữa để đảm bảo rằng thông tin được cung cấp vừa chính xác vừa đáng tin cậy.

Đồng thời, Google AI đã nhầm lẫn khuyến nghị sử dụng keo để ngăn phô mai trượt khỏi bánh pizza, một gợi ý xuất phát từ một bình luận hàng thập kỷ trên Reddit.

Mô hình ChatGPT của OpenAI là một trường hợp bịa đặt, bao gồm cả việc cáo buộc sai giáo sư luật Jonathan Turley tấn công tình dục dựa trên một chuyến đi mà ông không tham gia. Sự cố này phản ánh thực tế rằng AI có thể quá tự tin trong việc xử lý thông tin và không phân biệt chính xác giữa tính xác thực và giả mạo của nội dung trên Internet.

Ngoài ra, sự tự tin thái quá của AI có thể khiến nó chấp nhận bừa bãi tất cả thông tin trên Internet là đúng và sự tin tưởng này có thể dẫn đến những phán đoán sai lầm, chẳng hạn như đổ lỗi sai cho các cựu giám đốc điều hành của Google và đưa ra phán quyết có tội đối với các công ty trong bối cảnh luật chống độc quyền.

Khi người dùng tìm kiếm các câu hỏi liên quan đến văn hóa đại chúng trên Google, tính năng đề xuất tìm kiếm AI đôi khi có thể dẫn đến một số kết quả hài hước hoặc khó hiểu. Điều này có thể là do thực tế là AI có thể gặp phải những thách thức trong việc hiểu nội dung văn hóa đại chúng, đặc biệt nếu nó chứa sự hài hước, châm biếm hoặc một bối cảnh xã hội cụ thể. AI có thể khó nắm bắt chính xác mục đích thực sự của nội dung này, dẫn đến các đề xuất hoặc câu trả lời có thể không phù hợp với mong đợi của người dùng, gây ra một số phản ứng không mong muốn.

、

Ngoài ra, mặc dù AI đã cập nhật các khuyến nghị về việc trẻ em ăn đá, lưu ý rằng các nguyên nhân có thể bao gồm tò mò, các vấn đề xử lý cảm giác hoặc rối loạn ăn uống, những phản ứng này vẫn cần được đánh giá chuyên nghiệp và không nên được sử dụng làm hướng dẫn cuối cùng. Điều này nhấn mạnh sự cần thiết phải hết sức cẩn thận và tìm kiếm lời khuyên chuyên nghiệp khi sử dụng thông tin do AI cung cấp, đặc biệt là khi nói đến sức khỏe và an toàn.

Kết thúc:

Mặc dù tính năng đề xuất tìm kiếm của Google AI đã đạt được những tiến bộ công nghệ đáng kể, nhưng sự thiếu chính xác và độ tin cậy của nó vẫn có thể dẫn đến hậu quả nghiêm trọng. Từ việc áp dụng thông tin bừa bãi trên các nền tảng truyền thông xã hội như Reddit, đến thông tin sai lệch về các chủ đề nhạy cảm như thuyết ưu sinh, đến việc tự hình sự hóa không đúng cách trong lĩnh vực pháp lý, những sự cố này đã làm nổi bật những thiếu sót đáng kể trong sàng lọc và phán đoán thông tin của AI.

Ngoài ra, vấn đề mô hình AI bịa đặt sự thật hay tạo “ảo giác” cũng cho thấy hạn chế của chúng khi xử lý các vấn đề phức tạp. Do đó, chúng ta phải cảnh giác với thông tin do AI cung cấp, tìm kiếm lời khuyên chuyên nghiệp và kêu gọi các nhà phát triển và nhà nghiên cứu liên tục cải tiến công nghệ AI để đảm bảo rằng nó mang lại nhiều lợi ích long hơn cho nhân loại hơn là rủi ro.