Deutsches Gericht entscheidet: Google haftet für falsche KI-Übersichtsangaben

Ein deutsches Gericht entschied, dass Google für falsche Aussagen verantwortlich ist, die in seiner KI-Übersichts-Funktion (AI Overviews) gemacht wurden – in einem Fall, in dem zwei Verleger fälschlicherweise mit Betrügereien und fragwürdigen Geschäftspraktiken in Verbindung gebracht wurden. Die Entscheidung erging, nachdem Google es versäumt hatte, irreführende Ergebnisse zu korrigieren, selbst nachdem die Verleger Anfang dieses Jahres einen Unterlassungsbescheid (cease-and-desist letter) geschickt hatten. Das Gericht grenzte AI Overviews von herkömmlichen Suchmaschinen ab und befand, dass Googles Werkzeug unabhängige, inhaltlich bedeutsame Aussagen traf, die auf der eigenen Fehlinterpretation von Internet-Links beruhten. Da nur Google den zugrunde liegenden Algorithmus korrigieren könne, müsse das Unternehmen für die falschen Behauptungen haftbar gemacht werden.

Deutsches Gericht grenzt AI Overviews von traditionellen Suchergebnissen ab

Der Fall, der von The Decoder aufgegriffen wurde, betraf zwei Verleger, die feststellten, dass Googles AI Overviews sie fälschlich mit Betrügereien und unseriösen Geschäftspraktiken verknüpften. Die KI von Google machte bejahende Aussagen wie „Ja, [it] ist für fragwürdige Geschäftspraktiken bekannt und wird oft als Betrug wahrgenommen“, was den Ruf der Verleger beschädigte.

Google versuchte, sich durch das Argument zu schützen, dass die meisten Nutzer wüssten, dass KI-Ausgaben nicht immer korrekt seien und überprüft werden müssten. Das Gericht wies diese Verteidigung zurück und stellte fest, dass Googles Werkzeug im Gegensatz zu traditionellen Suchmaschinen, die lediglich Listen von Links zu Aussagen Dritter bereitstellen, „unabhängige, neue und substanzielle Aussagen“ treffe – basierend auf der eigenen Fehlinterpretation von Links im Internet.

Das Gericht betonte, dass Verleger zwar möglicherweise Dritte wegen verleumderischer Aussagen hätten verklagen können, die in Google-Suchergebnissen erscheinen, aber nur Google den zugrunde liegenden Algorithmus und die in AI Overviews angezeigten Ausgaben korrigieren könne. Das Gericht bewertete Googles Argument als besonders schwach, da die KI-Übersicht in diesem Fall „Aussagen enthält, die in den Suchergebnissen überhaupt nicht vorkommen“.

Gericht erlässt einstweilige Verfügung gegen Google

Das Gericht erließ eine einstweilige Verfügung, die Google daran hindert, die falschen Behauptungen in weiteren AI Overviews zu verbreiten. Das Urteil könnte weltweite Folgen haben, da es so scheint, als sei dies das erste Mal, dass ein Gericht ein KI-Unternehmen für „KI-Sprache“ haftbar macht.

In der Vergangenheit hatten KI-Unternehmen sich häufig auf Haftungsausschlüsse berufen, die vor Fehlinformationen warnen, um sich gegen Klagen wegen unzuverlässiger Ausgaben zu schützen. Letztes Jahr argumentierte ein Hersteller von Chatbots, dass KI-Sprache ihre eigene Kategorie von „reiner Rede“ sei und durch den First Amendment geschützt werden müsse.

FAQ

Was hat das deutsche Gericht über Googles AI Overviews entschieden?

Das deutsche Gericht entschied, dass Google für falsche Aussagen haftbar ist, die in AI Overviews gemacht werden. Das Gericht stellte fest, dass das KI-Tool von Google unabhängige, substanzielle Aussagen traf – basierend auf der eigenen Fehlinterpretation von Internet-Links. Damit grenzte es sich von traditionellen Suchmaschinen ab, die lediglich Listen von Links zu Inhalten Dritter präsentieren.

Warum hat das Gericht in diesem Fall Googles Verteidigung zurückgewiesen?

Das Gericht wies das Argument von Google zurück, dass Nutzer KI-Ausgaben verifizieren müssten, weil nur Google den zugrunde liegenden Algorithmus und die Ausgaben in AI Overviews korrigieren könne. Das Gericht stellte außerdem fest, dass die falschen Aussagen in der KI-Übersicht überhaupt nicht in den Suchergebnissen erschienen, wodurch Googles Verteidigung besonders schwach sei.