Das Top-Anwaltsbüro Sullivan·Cromwell (Sullivan & Cromwell) hat sich in den USA bei einem Bundesrichter öffentlich entschuldigt, weil die von ihm beim Insolvenzgericht eingereichten Unterlagen voller durch KI generierter Fehler steckten, darunter falsche Fallbeispiele, erfundene Zitate und nicht existierende Gesetzesnormen – Lücken, die sogar von externen Anwälten aufgedeckt wurden. Ironischerweise berechnet der Partner des Büros 2.000 US-Dollar pro Stunde, aber selbst grundlegendes Überprüfen und Korrekturlesen wurde nicht umgesetzt.
Top-Anwaltskanzlei pleite! Es wurde bekannt, dass mit KI geschriebene Dokumente voller Fehler stecken
Der Vorfall ereignete sich in einem Insolvenzverfahren in der US-Großstadt Manhattan, das mit der kambodschanischen Prinzengruppe (Prince Group) zusammenhing. Sullivan·Cromwell vertrat vor Gericht den von den Britischen Jungferninseln benannten Liquidator, doch in den eingereichten Gerichtsunterlagen tauchten zahlreiche KI-generierte Fehler auf – insgesamt über dreißig Stellen.
Diese Fehler wurden sogar nicht erst innerhalb der Kanzlei entdeckt, sondern von der gegnerischen Anwaltskanzlei Boies Schiller Flexner im selben Verfahren in einer öffentlichen Stellungnahme aufgedeckt. Zu den Fehlerarten gehören die Anführung fingierter Fallbezeichnungen, die es überhaupt nicht gibt, erfundene Formulierungen, die niemals gesagt oder geschrieben wurden, und sogar die vollständige Erfindung von Teilen der Bestimmungen des „US-Insolvenzgesetzes“.
Der globale Leiter für Restrukturierung Andrew Dietderich von Sullivan·Cromwell räumte in einem Schreiben vom 18. April an den Richter Martin Glenn ein, dass sich einige Fehler auf KI-Wahnvorstellungen (hallucinations) zurückführen lassen.
Interne Prüfung gleichbedeutend mit Augenwischerei – Partner der Kanzlei verlangt 2.000 US-Dollar pro Stunde?
Dietderich gab in seinem Schreiben zu, dass die Kanzlei für die Nutzung von KI-Tools „ausgereifte Richtlinien und Schulungsanforderungen“ festgelegt habe. Bevor Anwälte die Berechtigung zur Nutzung von KI-Tools erhalten, müssen sie außerdem Schulungskurse absolvieren, in denen ausdrücklich gefordert wird, „keinerlei Inhalte leichtgläubig zu übernehmen, alles muss persönlich verifiziert werden“. Die oben genannten Richtlinien wurden jedoch bei der Erstellung des betreffenden Dokuments nicht umgesetzt, und auch das zuständige zweite Prüfverfahren konnte keine Fehler abfangen.
Angesichts der Vergütung von über 2.000 US-Dollar pro Stunde des Kanzlei-Partners löste der Vorfall in inländischen und ausländischen juristischen Kreisen breite Diskussionen aus. In dem Schreiben erklärte die Kanzlei, nachdem Fehler entdeckt worden seien, habe sie eine umfassende Prüfung aller weiteren Unterlagen im betreffenden Fall durchgeführt, bestätigt, dass der KI-Wahn nur in diesem Dokument auftrat, und anschließend eine korrigierte Version eingereicht.
KI-Wahnvorstellungen erschüttern die Rechtsbranche – die ethische Verantwortung von Anwälten steht erneut zur Debatte
Dieser Vorfall war nicht der erste seiner Art, bei dem KI-Pannen die Schlagzeilen in der Rechtswelt füllten. Im Jahr 2023 wurden zwei New Yorker Anwälte von einem Bundesrichter mit einer Geldstrafe von 5.000 US-Dollar belegt, weil sie dem Gericht eine juristische Zusammenfassung eingereicht hatten, die mit von ChatGPT erfundenen Fallbeispielen gespickt war. In den letzten Jahren gab es bereits Dutzende Fälle, in denen Richter Anwälte bestraften, weil diese KI für Rechtsrecherchen und das Verfassen von Dokumenten nutzten, Inhalte jedoch nicht ausreichend überprüften.
Die American Bar Association (ABA) hat dazu bereits unmissverständlich verlangt, dass Anwälte beim Einsatz von KI-Modellen vorsichtig bleiben müssen, und dass Anwälte ethisch auch dafür verantwortlich sind, die Richtigkeit aller bei Gericht eingereichten Dokumente sicherzustellen. Das Recht verbietet derzeit nicht, dass Anwälte KI nutzen, aber die Pflicht zur nachgelagerten Überprüfung liegt weiterhin bei dem jeweiligen Anwalt selbst.
Trump mag’s! Eine hoch angesehene alte Kanzlei hat sich entschuldigt
Sullivan·Cromwell wurde vor über hundert Jahren gegründet und gehört zu den traditionsreichsten und angesehensten Anwaltskanzleien der USA. Mit mehr als 900 Anwälten ist sie weltweit bekannt für M&A, gesellschaftsrechtliche Streitigkeiten und Private-Equity-Geschäfte. In letzter Zeit wurde die Kanzlei zudem weiter aufmerksamkeitsstark verfolgt, weil sie den ehemaligen Präsidenten Trump bei mehreren Berufungsverfahren vertrat.
Dieser KI-Pannenfall fügt zweifellos dem Markenzeichen dieser Elite-Kanzlei einen Riss hinzu, den man nicht übersehen kann, und mahnt erneut die gesamte Rechtsbranche.
Der Artikel „Top-Anwaltskanzlei verlangt über zweitausend US-Dollar pro Stunde, Gerichtsunterlagen werden nach ‘KI-Wahnvorstellungen, voller Fehler’ aufgedeckt“ erschien zuerst bei 鏈新聞 ABMedia.
