L’exactitude et la fiabilité des recommandations de recherche de l’IA de Google restent un défi mortel

Google s’efforce d’éliminer les réponses fausses et potentiellement dangereuses de ses résultats de recherche basés sur l’IA. Cependant, la nouvelle fonctionnalité « Aperçu de l’IA » présente parfois à tort les blagues et les sarcasmes sur les médias sociaux et les sites satiriques comme des faits.

Les résultats de recherche de l’IA récemment publiés par Google ont attiré beaucoup d’attention, mais les raisons ne sont pas aussi positives que prévu. Dans le cadre de sa nouvelle stratégie « Twin Times », le géant de la technologie a annoncé la semaine dernière une série de nouveaux outils d’IA. Cela a été suivi d’un changement important de son service de recherche sur le Web, où les réponses aux questions dans les résultats de recherche sont désormais affichées en langage naturel directement au-dessus des liens vers les sites Web.

Bien que la mise à jour de Google rende la technologie de recherche plus avancée et capable de répondre à des questions plus complexes des utilisateurs, elle soulève également certaines préoccupations. Par exemple, l’IA peut parfois présenter des informations incorrectes ou trompeuses aux utilisateurs lors du traitement des résultats de recherche, ce qui est particulièrement problématique lorsqu’il s’agit de sujets sensibles tels que l’eugénisme.

L’eugénisme a été utilisé à tort pour certaines des politiques inhumaines de l’histoire, de sorte que l’exactitude et la sensibilité de ses informations sont particulièrement importantes. En outre, l’IA a également le problème d’une précision insuffisante lors de l’identification de certaines choses spécifiques, telles que la distinction entre les champignons vénéneux et non toxiques.

Cela nous rappelle la nécessité d’être très prudent lors de l’utilisation d’outils de recherche d’IA pour les questions liées à la santé et à la sécurité et de rechercher une confirmation professionnelle dans la mesure du possible.

L’IA de Google, lorsqu’elle fournit des réponses de type « vue d’ensemble de l’IA », cite parfois du contenu provenant de médias sociaux tels que Reddit, qui peut avoir été initialement destiné à des fins humoristiques ou sarcastiques. Cela a abouti à des réponses manifestement erronées ou ridicules proposées aux utilisateurs.

Par exemple, un utilisateur a rapporté que lorsqu’on lui a demandé comment faire face à la dépression, l’IA de Google a en fait suggéré de « sauter du Golden Gate Bridge ». D’autres réponses confirment de manière absurde une capacité anti-gravité selon laquelle les gens peuvent rester en short aussi longs qu’ils ne regardent pas vers le bas.

Ces exemples montrent que si l’IA a fait des progrès dans la fourniture de résultats de recherche, il existe encore des lacunes en matière de précision et de fiabilité qui doivent encore être améliorées.

Le partenariat de Google avec Reddit est conçu pour permettre aux utilisateurs de trouver et de participer plus facilement aux communautés et aux discussions qui les intéressent. Cependant, la collaboration expose également certains risques, en particulier lorsque l’IA traite le contenu de Reddit. Étant donné que l’IA peut ne pas avoir la capacité de discerner l’authenticité ou le contexte de l’information, elle peut adopter et citer l’information sur Reddit sans discrimination.

Cette adoption aveugle de l’information peut conduire à l’apparition de suggestions trompeuses, voire ridicules, dans les résultats de recherche. Par exemple, l’IA a déjà fait une suggestion inappropriée selon laquelle les enfants devraient manger au moins une petite pierre par jour, et a également étiqueté à tort la suggestion comme venant d’un géologue de l’Université de Californie à Berkeley. Cet exemple illustre comment l’IA peut induire en erreur en ignorant la crédibilité et la pertinence de l’information lors du traitement de l’information sur le Web.

Bien que Google ait supprimé ou corrigé certaines réponses manifestement ridicules, les modèles générés par l’IA produisent parfois des réponses inexactes ou fictives, un phénomène connu sous le nom d’« hallucinations ». Ces « hallucinations » peuvent être considérées comme des déclarations fausses parce que l’IA crée quelque chose qui n’est pas factuel.

Cela suggère que l’IA doit être améliorée pour distinguer l’authenticité et le contexte de l’information, et doit être optimisée davantage pour s’assurer que les informations fournies sont à la fois exactes et fiables.

Dans le même temps, Google AI a recommandé à tort l’utilisation de colle pour empêcher le fromage de glisser de la pizza, une suggestion qui provient d’un commentaire vieux de dix ans sur Reddit.

Le modèle ChatGPT d’OpenAI a été un cas de fabrication, notamment en accusant à tort le professeur de droit Jonathan Turley d’agression sexuelle sur la base d’un voyage auquel il n’a pas participé. Cet incident reflète le fait que l’IA peut être trop confiante dans le traitement de l’information et ne pas faire la distinction avec précision entre l’authenticité et la fausseté du contenu sur Internet.

En outre, l’excès de confiance de l’IA peut l’amener à accepter sans discernement toutes les informations sur Internet comme vraies, et cette confiance peut conduire à des jugements erronés, tels que le fait de blâmer à tort d’anciens dirigeants de Google et de prononcer à tort des verdicts de culpabilité contre des entreprises dans le contexte des lois antitrust.

Lorsque les utilisateurs recherchent des questions liées à la culture pop sur Google, la fonctionnalité de recherche suggérée par l’IA peut parfois conduire à des résultats humoristiques ou déroutants. Cela peut être dû au fait que l’IA peut rencontrer des difficultés pour comprendre le contenu de la culture pop, en particulier s’il contient de l’humour, de la satire ou un contexte social spécifique. Il peut être difficile pour l’IA de saisir avec précision la véritable intention de ce contenu, ce qui entraîne des suggestions ou des réponses qui peuvent ne pas correspondre aux attentes de l’utilisateur, déclenchant des réactions inattendues.

、

De plus, bien que l’IA ait mis à jour ses recommandations pour l’ingestion de roches par les enfants, notant que les causes possibles incluent la curiosité, les problèmes de traitement sensoriel ou les troubles de l’alimentation, ces réponses nécessitent toujours une évaluation professionnelle et ne doivent pas être utilisées comme guide final. Cela souligne la nécessité d’être très prudent et de demander l’avis d’un professionnel lors de l’utilisation des informations fournies par l’IA, en particulier en matière de santé et de sécurité.

Conclusion:

Bien que la fonctionnalité de suggestions de recherche de Google AI ait fait des progrès technologiques significatifs, son manque de précision et de fiabilité peut toujours avoir de graves conséquences. Qu’il s’agisse de l’adoption sans discernement d’informations sur des plateformes de médias sociaux telles que Reddit, d’informations trompeuses sur des sujets sensibles tels que l’eugénisme, ou d’une autocriminalisation inappropriée dans le domaine juridique, ces incidents ont mis en évidence des lacunes importantes dans le filtrage et le jugement de l’IA en matière d’information.

De plus, le problème des modèles d’IA qui fabriquent des faits ou créent des « hallucinations » montre également leurs limites lorsqu’il s’agit de traiter des problèmes complexes. Par conséquent, nous devons être vigilants quant aux informations fournies par l’IA, demander l’avis d’un professionnel et appeler les développeurs et les chercheurs à améliorer continuellement la technologie de l’IA pour s’assurer qu’elle apporte plus de longs avantages à l’humanité que de risques.