Claude AI erstellt erfundene Gerichtsakten-Zitate, Anwalt entschuldigt sich und gesteht Fehler ein

In einer Bundesgerichtsklage im Zusammenhang mit groß angelegten Bundes-Kündigungen unter der Trump-Regierung hat der Anwalt Jason Grieves am 16. Mai eine Erklärung eingereicht und eingeräumt, dass in den dem Gericht vorgelegten Antragsunterlagen falsche Zitate enthalten sind. Diese seien entstanden, nachdem er den Antrag mit Hilfe der Anthropic-Unternehmens-KI-Plattform Claude Console erstellt habe.

Bestätigte Ereignis-Zeitlinie: Der vollständige Ablauf von Grieves’ Erklärung

6. Mai vormittags (bestätigt): Aufgrund von Zeitdruck hat Grieves mit Claude Console den ersten Entwurf des Antrags erstellt und ihn an einen Assistenzanwalt gesendet, wobei er ausdrücklich mündlich angewiesen habe: „Dieser Entwurf wurde von einer KI erstellt; bitte prüfe die Zitate sorgfältig.“

7. Mai nachmittags (bestätigt): Der Assistenzanwalt teilte Grieves mit, sie habe jede einzelne Zitatstelle überprüft und verifiziert. Sie habe festgestellt, dass zwei Fallzitate nicht korrekt seien, und habe einen weiteren Ersatzfall gefunden; dennoch seien die falschen Zitate in der endgültigen eingereichten Fassung enthalten geblieben.

In seiner Erklärung bestätigte Grieves zwei Punkte in Bezug auf die Verantwortung: „Sicherzustellen, dass die Zitate in jeder Hinsicht korrekt sind, ist ganz und gar meine Verantwortung, und ich übernehme dafür die volle Verantwortung“; „Die zitierten Fälle könnten insgesamt unsere Position stützen, aber das Zulassen falscher Zitate ist ein unentschuldbarer Fehler.“

Bestätigte Einordnung von Claude Console

Claude Console (früher Anthropic Developer Console) wurde im März 2023 eingeführt. Es handelt sich um die unternehmensbezogene KI-Plattform von Anthropic für Unternehmen und professionelle Nutzer, um mit den Claude-KI-Modellen zu interagieren; zu den Einsatzbereichen gehören das Erstellen von Dokumenten, das Zusammenfassen, das Programmieren und die Recherche. Grieves beschreibt es in seiner Erklärung als „unternehmensfähige, datenisolierte KI-Plattform“ und grenzt es damit von dem für Verbraucher gedachten Claude.ai ab.

Hintergrund: Bestätigte Präzedenzfälle dafür, dass KI-Gedankensprünge vor Gericht gelangen

Im April 2026 wurden bereits Anwälte der Kanzlei Sullivan & Cromwell wegen formaler Sanktionen bestraft, nachdem sie dem Gericht KI-generierte falsche juristische Zitate vorgelegt hatten. Der Fall von Grieves betrifft eine Klage der Trump-Regierung im Rahmen groß angelegter Bundes-Kündigungen; der Umfang umfasst Kürzungen bei FEMA-Personal sowie vorgeschlagene Reformen zum Schutz von Beamten, und wie das Gericht mit der anschließenden Bearbeitung umgeht, ist noch nicht bekanntgegeben.

Häufige Fragen

Wie erklärt Grieves die Verantwortungszuweisung für das Auftauchen falscher Zitate?

Laut Grieves’ Erklärung habe er den Assistenzanwalt eindeutig mündlich darauf hingewiesen, dass der Entwurf von einer KI generiert worden sei, und ihn zur Prüfung aufgefordert. Der Assistenzanwalt habe bestätigt, alles geprüft zu haben, dennoch seien falsche Zitate durchgegangen. Grieves habe ausdrücklich klargestellt, dass er als Managing Partner und Unterzeichner der Klageschrift die volle Verantwortung trägt und dies weder auf den Assistenzanwalt noch auf das KI-Tool selbst abwälzt.

Worin unterscheidet sich Claude Console von der allgemeinen Nutzung von Claude AI?

Claude Console (Anthropic Developer Console) ist eine Unternehmensversion der KI-Plattform mit datenisoliertem Design. Sie richtet sich an Unternehmen und professionelle Nutzer; im Vergleich zur Verbraucher-Version Claude.ai gibt es Unterschiede in der Datenverarbeitung und in der Compliance-Architektur. Grieves betont besonders, dass er eine „unternehmensfähige, datenisolierte KI-Plattform“ nutzt; das könne jedoch nicht verhindern, dass es zu KI-Gedankensprüngen (falsche Zitate) kommt.

Wie geht das Gericht mit Fällen um, in denen KI-generierte falsche Zitate vorgelegt werden?

Im April 2026 wurde im Sullivan-&-Cromwell-Fall ein Anwalt wegen ähnlicher Probleme bereits offiziell bestraft. In dem Fall von Grieves hat sich der Anwalt gegenüber dem Gericht offiziell entschuldigt; das Gericht hat die konkreten Ergebnisse der weiteren Behandlung bislang noch nicht veröffentlicht.