A precisão e a confiabilidade das recomendações de pesquisa de IA do Google continuam sendo um desafio mortal

O Google está trabalhando duro para eliminar respostas falsas e potencialmente perigosas de seus resultados de pesquisa de IA. No entanto, o novo recurso “AI Overview” às vezes apresenta piadas e sarcasmo nas redes sociais e sites satíricos como fatos.

Os resultados de pesquisa de IA recentemente lançados pelo Google atraíram muita atenção, mas os motivos não são tão positivos quanto o esperado. Como parte de sua recém-lançada estratégia “Twin Times”, a gigante da tecnologia anunciou uma série de novas ferramentas de IA na semana passada. Isso foi seguido por uma mudança significativa em seu serviço de pesquisa na Web de assinatura, onde as respostas às perguntas nos resultados de pesquisa agora são exibidas em linguagem natural diretamente sobre os links do site.

Embora a atualização do Google torne a tecnologia de pesquisa mais avançada e capaz de responder a perguntas mais complexas dos usuários, ela também levanta algumas preocupações. Por exemplo, a IA às vezes pode apresentar informações incorretas ou enganosas aos usuários ao processar resultados de pesquisa, o que é especialmente problemático quando se trata de tópicos sensíveis, como eugenia.

A eugenia tem sido erradamente utilizada para algumas das políticas desumanas da história, pelo que a precisão e a sensibilidade da sua informação são particularmente importantes. Além disso, a IA também tem o problema da precisão insuficiente ao identificar algumas coisas específicas, como distinguir entre cogumelos venenosos e não venenosos.

Isso nos lembra da necessidade de ser mais cauteloso ao usar ferramentas de pesquisa de IA para consultas relacionadas à saúde e segurança e de buscar confirmação profissional sempre que possível.

A IA do Google, ao fornecer respostas de “visão geral da IA”, às vezes cita conteúdo de mídias sociais como o Reddit, que pode ter sido originalmente destinado a fins humorísticos ou sarcásticos. Isso resultou em algumas respostas obviamente errôneas ou ridículas sendo oferecidas aos usuários.

Por exemplo, um usuário relatou que, quando perguntado como lidar com a depressão, a IA do Google realmente sugeriu “pular da ponte Golden Gate”. Outras respostas confirmam absurdamente uma capacidade anti-gravidade de que as pessoas podem ficar de calções tão longo como não olham para baixo.

Estes exemplos mostram que, embora a IA tenha feito progressos na entrega de resultados de pesquisa, ainda existem deficiências na precisão e fiabilidade que precisam de ser melhoradas.

A parceria do Google com o Reddit foi projetada para tornar mais fácil para os usuários encontrar e participar de comunidades e discussões que lhes interessam. No entanto, a colaboração também expõe alguns riscos, especialmente quando a IA processa conteúdo do Reddit. Como a IA pode não ter a capacidade de discernir a autenticidade ou o contexto das informações, ela pode adotar e citar as informações no Reddit sem discriminação.

Esta adoção indiscriminada de informações pode levar a que algumas sugestões enganosas ou mesmo ridículas apareçam nos resultados de pesquisa. Por exemplo, a IA uma vez deu uma sugestão inadequada de que as crianças deveriam comer pelo menos uma pequena pedra por dia, e também rotulou incorretamente a sugestão como vindo de um geólogo da Universidade da Califórnia, Berkeley. Este exemplo ilustra como a IA pode induzir em erro ao ignorar a credibilidade e a adequação das informações ao processar informações na Web.

Embora o Google tenha removido ou corrigido algumas respostas obviamente ridículas, os modelos gerados por IA às vezes produzem respostas imprecisas ou fictícias, um fenômeno conhecido como “alucinações”. Essas “alucinações” podem ser consideradas afirmações falsas porque a IA está criando algo que não é factual.

Isso sugere que a IA precisa ser melhorada na distinção da autenticidade e do contexto das informações, e precisa ser otimizada ainda mais para garantir que as informações fornecidas sejam precisas e confiáveis.

Ao mesmo tempo, a IA do Google recomendou erroneamente o uso de cola para evitar que o queijo escorrege da pizza, uma sugestão que vem de um comentário de uma década no Reddit.

O modelo ChatGPT da OpenAI tem sido um caso de invenção, incluindo a falsa acusação do professor de direito Jonathan Turley de agressão sexual com base em uma viagem em que ele não estava envolvido. Este incidente reflete o fato de que a IA pode estar excessivamente confiante no processamento de informações e não conseguir distinguir com precisão entre autenticidade e falsidade de conteúdo na Internet.

Além disso, o excesso de confiança da IA pode levá-la a aceitar indiscriminadamente todas as informações na Internet como verdadeiras, e essa confiança pode levar a julgamentos errôneos, como colocar erroneamente a culpa em ex-executivos do Google e fazer veredictos de culpa contra empresas no contexto das leis antitruste.

Quando os usuários pesquisam por perguntas relacionadas à cultura pop no Google, o recurso sugerido pela pesquisa de IA às vezes pode levar a alguns resultados humorísticos ou confusos. Isso pode ser devido ao fato de que a IA pode encontrar desafios na compreensão do conteúdo da cultura pop, especialmente se ele contém humor, sátira ou um contexto social específico. Pode ser difícil para a IA compreender com precisão a verdadeira intenção desse conteúdo, resultando em sugestões ou respostas que podem não corresponder às expectativas do usuário, desencadeando algumas reações inesperadas.

、

Além disso, embora a IA tenha atualizado suas recomendações para a ingestão de rochas por crianças, observando que as possíveis causas incluem curiosidade, problemas de processamento sensorial ou distúrbios alimentares, essas respostas ainda exigem avaliação profissional e não devem ser usadas como orientação final. Este facto sublinha a necessidade de ser mais cuidadoso e de procurar aconselhamento profissional ao utilizar as informações fornecidas pela IA, especialmente quando se trata de saúde e segurança.

Conclusão:

Embora o recurso de sugestões de pesquisa da IA do Google tenha feito avanços tecnológicos significativos, sua falta de precisão e confiabilidade ainda pode levar a sérias consequências. Desde a adoção indiscriminada de informações em plataformas de mídia social, como o Reddit, até informações enganosas sobre temas sensíveis, como eugenia, até a autocriminalização indevida no campo jurídico, esses incidentes destacaram deficiências significativas na triagem e julgamento de informações da IA.

Além disso, o problema dos modelos de IA fabricarem fatos ou criarem “alucinações” também mostra suas limitações ao lidar com problemas complexos. Portanto, devemos estar atentos às informações fornecidas pela IA, buscar aconselhamento profissional e pedir aos desenvolvedores e pesquisadores que melhorem continuamente a tecnologia de IA para garantir que ela traga mais benefícios longo para a humanidade do que riscos.