Tribunal alemán declara a Google responsable por declaraciones falsas en el resumen de IA

Un tribunal alemán dictaminó que Google es responsable de las afirmaciones falsas realizadas en su función AI Overviews, en un caso en el que dos editoriales fueron vinculadas de forma incorrecta a estafas y prácticas comerciales dudosas. El fallo llegó después de que Google no corrigiera salidas engañosas incluso después de que las editoriales enviaran una carta de cese y desistimiento a principios de este año. El tribunal distinguió AI Overviews de los motores de búsqueda tradicionales, al determinar que la herramienta de Google hacía afirmaciones independientes y sustantivas basadas en su propia mala interpretación de los enlaces de Internet, y debido a que solo Google puede corregir el algoritmo subyacente, la empresa debe rendir cuentas por las afirmaciones falsas.

German Court Distinguishes AI Overviews from Traditional Search Results

El caso, señalado por The Decoder, involucró a dos editoriales que descubrieron que los enlaces mostrados por la IA de Google en AI Overviews las vinculaban de forma incorrecta con estafas y prácticas comerciales poco fiables. La IA de Google hizo afirmaciones categóricas como: "Sí, [it] es conocido por prácticas comerciales dudosas y a menudo se le percibe como una estafa", manchando la reputación de las editoriales.

Google intentó protegerse de la responsabilidad argumentando que la mayoría de los usuarios entiende que las salidas de la IA no siempre son precisas y deben verificarse. El tribunal rechazó esta defensa, al encontrar que, a diferencia de los motores de búsqueda tradicionales que solo presentan listas de enlaces a afirmaciones de terceros, la herramienta de Google hizo "afirmaciones independientes, nuevas y sustantivas" basadas en su propia mala interpretación de los enlaces de Internet.

El tribunal enfatizó que, aunque las editoriales podrían haber podido demandar a terceros por afirmaciones difamatorias que aparecieran en los resultados de búsqueda de Google, solo Google puede corregir el algoritmo subyacente y las salidas que se muestran en AI Overviews. El tribunal consideró que el argumento de Google era especialmente débil, ya que el resumen de IA en este caso "contiene afirmaciones que no aparecen en los resultados de búsqueda en absoluto".

Court Issues Temporary Injunction Against Google

El tribunal emitió una orden judicial temporal que impide a Google difundir las afirmaciones falsas en cualquier AI Overviews adicional. El fallo podría tener implicaciones globales, ya que el tribunal parece ser el primero en responsabilizar a una empresa de IA por el discurso de la IA.

En el pasado, las empresas de IA han recurrido a descargos de responsabilidad que advierten sobre la desinformación para protegerse de demandas por salidas poco confiables. El año pasado, un fabricante de chatbots argumentó que el discurso de la IA es una categoría propia de "discurso puro" y debería estar protegido por la Primera Enmienda.

FAQ

¿Qué dictaminó el tribunal alemán sobre AI Overviews de Google?

El tribunal alemán dictaminó que Google es responsable de las afirmaciones falsas hechas en AI Overviews. El tribunal concluyó que la herramienta de IA de Google hizo afirmaciones independientes y sustantivas basadas en su propia mala interpretación de los enlaces de Internet, distinguiéndola de los motores de búsqueda tradicionales que solo presentan listas de enlaces a contenido de terceros.

¿Por qué el tribunal rechazó la defensa de Google en este caso?

El tribunal rechazó el argumento de Google de que los usuarios entienden que las salidas de IA deben verificarse, porque solo Google puede corregir el algoritmo subyacente y las salidas en AI Overviews. El tribunal también señaló que las afirmaciones falsas en el resumen de IA no aparecieron en los resultados de búsqueda en absoluto, lo que hacía que la defensa de Google fuera particularmente débil.