La precisión y confiabilidad de las recomendaciones de búsqueda de IA de Google siguen siendo un desafío mortal

Google está trabajando arduamente para eliminar las respuestas falsas y potencialmente peligrosas de sus resultados de búsqueda de IA. Sin embargo, la nueva función “AI Overview” a veces presenta erróneamente los chistes y el sarcasmo en las redes sociales y los sitios satíricos como hechos.

Los resultados de búsqueda de IA recientemente publicados por Google han atraído mucha atención, pero las razones no son tan positivas como se esperaba. Como parte de su recién lanzada estrategia “Twin Times”, el gigante tecnológico anunció la semana pasada una serie de nuevas herramientas de IA. A esto le siguió un cambio significativo en su servicio de búsqueda web característico, donde las respuestas a las preguntas en los resultados de búsqueda ahora se muestran en lenguaje natural directamente en la parte superior de los enlaces del sitio web.

Si bien la actualización de Google hace que la tecnología de búsqueda sea más avanzada y capaz de responder a preguntas más complejas de los usuarios, también plantea algunas preocupaciones. Por ejemplo, la IA a veces puede presentar información incorrecta o engañosa a los usuarios al procesar los resultados de búsqueda, lo que es especialmente problemático cuando se trata de temas delicados como la eugenesia.

La eugenesia se ha utilizado erróneamente para algunas de las políticas inhumanas de la historia, por lo que la exactitud y la sensibilidad de su información son particularmente importantes. Además, la IA también tiene el problema de una precisión insuficiente a la hora de identificar algunas cosas concretas, como distinguir entre setas venenosas y no venenosas.

Esto nos recuerda la necesidad de ser extremadamente cautelosos al utilizar herramientas de búsqueda de IA para consultas relacionadas con la salud y la seguridad y buscar la confirmación profesional siempre que sea posible.

Google AI, al proporcionar respuestas de “descripción general de la IA”, a veces cita contenido de redes sociales como Reddit, que puede haber sido originalmente destinado a fines humorísticos o sarcásticos. Esto ha dado lugar a que se ofrezcan algunas respuestas obviamente erróneas o ridículas a los usuarios.

Por ejemplo, un usuario informó que cuando se le preguntó cómo lidiar con la depresión, Google AI sugirió “saltar desde el puente Golden Gate”. Otras respuestas confirman absurdamente una capacidad antigravedad que las personas pueden permanecer en pantalones cortos tan largos como no miran hacia abajo.

Estos ejemplos muestran que, si bien la IA ha progresado en la entrega de resultados de búsqueda, todavía existen deficiencias en la precisión y la confiabilidad que deben mejorarse aún más.

La asociación de Google con Reddit está diseñada para facilitar a los usuarios la búsqueda y participación en comunidades y discusiones que les interesen. Sin embargo, la colaboración también expone algunos riesgos, especialmente cuando la IA procesa contenido de Reddit. Dado que es posible que la IA no tenga la capacidad de discernir la autenticidad o el contexto de la información, puede adoptar y citar la información en Reddit sin discriminación.

Esta adopción indiscriminada de información puede dar lugar a que aparezcan algunas sugerencias engañosas o incluso ridículas en los resultados de búsqueda. Por ejemplo, la IA una vez dio una sugerencia inapropiada de que los niños deberían comer al menos una piedra pequeña al día, y también etiquetó incorrectamente la sugerencia como proveniente de un geólogo de la Universidad de California, Berkeley. Este ejemplo ilustra cómo la IA puede inducir a error al ignorar la credibilidad y la idoneidad de la información al procesar información en la web.

Si bien Google ha eliminado o corregido algunas respuestas obviamente ridículas, los modelos generados por IA a veces producen respuestas inexactas o ficticias, un fenómeno conocido como “alucinaciones”. Estas “alucinaciones” pueden considerarse afirmaciones falsas porque la IA está creando algo que no es real.

Esto sugiere que la IA debe mejorarse para distinguir la autenticidad y el contexto de la información, y debe optimizarse aún más para garantizar que la información proporcionada sea precisa y confiable.

Al mismo tiempo, Google AI ha recomendado erróneamente el uso de pegamento para evitar que el queso se resbale de la pizza, una sugerencia que proviene de un comentario de hace una década en Reddit.

El modelo ChatGPT de OpenAI ha sido un caso de invención, incluida la acusación falsa del profesor de derecho Jonathan Turley de agresión sexual en base a un viaje en el que no estuvo involucrado. Este incidente refleja el hecho de que la IA puede tener un exceso de confianza en el procesamiento de la información y no distinguir con precisión entre la autenticidad y la falsedad del contenido en Internet.

Además, el exceso de confianza de la IA puede llevarla a aceptar indiscriminadamente toda la información en Internet como verdadera, y esta confianza puede conducir a juicios erróneos, como culpar erróneamente a ex ejecutivos de Google y emitir veredictos de culpabilidad contra empresas en el contexto de las leyes antimonopolio.

Cuando los usuarios buscan preguntas relacionadas con la cultura pop en Google, la función sugerida de búsqueda de IA a veces puede conducir a algunos resultados humorísticos o confusos. Esto puede deberse al hecho de que la IA puede encontrar desafíos para comprender el contenido de la cultura pop, especialmente si contiene humor, sátira o un contexto social específico. Puede ser difícil para la IA comprender con precisión la verdadera intención de este contenido, lo que resulta en sugerencias o respuestas que pueden no coincidir con las expectativas del usuario, lo que desencadena algunas reacciones inesperadas.

、

Además, aunque la IA ha actualizado sus recomendaciones para la ingestión de piedras por parte de los niños, señalando que las posibles causas incluyen curiosidad, problemas de procesamiento sensorial o trastornos alimentarios, estas respuestas aún requieren una evaluación profesional y no deben usarse como guía final. Esto subraya la necesidad de tener mucho cuidado y buscar asesoramiento profesional al utilizar la información proporcionada por la IA, especialmente cuando se trata de salud y seguridad.

Conclusión:

Si bien la función de sugerencias de búsqueda de Google AI ha logrado avances tecnológicos significativos, su falta de precisión y confiabilidad aún puede tener graves consecuencias. Desde la adopción indiscriminada de información en plataformas de redes sociales como Reddit, pasando por información engañosa sobre temas delicados como la eugenesia, pasando por la autocriminalización indebida en el ámbito jurídico, estos incidentes han puesto de manifiesto importantes deficiencias en el cribado y el juicio de la IA.

Además, el problema de los modelos de IA que fabrican hechos o crean “alucinaciones” también muestra sus limitaciones a la hora de abordar problemas complejos. Por lo tanto, debemos estar atentos a la información proporcionada por la IA, buscar asesoramiento profesional y pedir a los desarrolladores e investigadores que mejoren continuamente la tecnología de IA para garantizar que brinde más beneficios largos a la humanidad en lugar de riesgos.