Sullivan & Cromwell s’excuse pour des hallucinations d’IA dans un acte de procédure comportant 40 citations erronées

Message de Gate News, 23 avril — Sullivan & Cromwell, un important cabinet d’avocats de Wall Street, s’est excusé auprès d’un juge fédéral après avoir soumis un acte de procédure contenant environ 40 citations incorrectes et d’autres erreurs dues à des hallucinations de l’IA. Andrew Dietderich, co-directeur de l’équipe de restructuration mondiale du cabinet, a écrit, vendredi, au juge en chef Martin Glenn de la Cour des faillites des États-Unis pour le district sud de New York, en indiquant : "Nous regrettons profondément que cela se soit produit" et en assumant la responsabilité de l’échec à garantir l’exactitude.

Selon une base de données gérée par le juriste-informaticien Damien Charlotin, il y a eu 1 334 incidents recensés d’hallucinations de l’IA dans des actes de procédure dans le monde, dont plus de 900 aux États-Unis. La plupart de ces hallucinations portent sur des citations fabriquées, bien que des arguments juridiques générés par l’IA aient également été identifiés dans certains cas.

Dietderich a noté que Sullivan & Cromwell dispose de politiques en place pour l’utilisation des outils d’IA, y compris des processus de révision des citations, mais que ces politiques n’ont pas été suivies dans cette affaire. Il a déclaré : "Malheureusement, ce processus de révision n’a pas identifié les citations inexactes générées par l’IA, et n’a pas non plus identifié d’autres erreurs qui semblent avoir résulté, en tout ou partie, d’une erreur manuelle." Le cabinet mène une enquête interne et évalue des améliorations de ses processus de formation et de révision.

Les erreurs ont été découvertes par le cabinet d’avocats concurrent Boies Schiller Flexner. Sullivan & Cromwell, classé 30e au classement AmLaw Global 200, avait auparavant représenté la plateforme d’échange crypto FTX dans son dossier de faillite.