ゲートニュース、4月23日 — ウォール街の大手法律事務所Sullivan & Cromwellは、AIのハルシネーションによって生じた約40件の誤った引用やその他の誤りを含む裁判書類を提出した後、連邦判事に謝罪した。同行のグローバル・リストラクチャリングチーム共同ヘッドのAndrew Dietderichは、金曜に米ニューヨーク州南部地区の米国破産裁判所のMartin Glenn首席判事に書簡を送り、「このようなことが起きたことを深く遺憾に思います」と述べ、正確性の確保に失敗した責任を取った。
法技術者のDamien Charlotinが管理するデータベースによれば、世界中の裁判書類においてAIのハルシネーションに関する記録された事例は1,334件あり、そのうち900件超は米国で発生している。これらのハルシネーションの多くは捏造された引用を含むが、一部ではAIが作成した法的主張も特定されている。
Dietderichは、Sullivan & Cromwellには、引用のレビュー手順など、AIツールの使用に関する方針があるものの、この件ではそれらの方針が遵守されなかったと指摘した。彼は次のように述べた。「残念ながら、このレビュー手順では、AIによって生成された不正確な引用を見つけられず、また、手作業による誤りによるものと思われる、あるいは一部そうであると思われるその他の誤りも特定できませんでした。」同社は社内調査を実施し、研修およびレビュー手順の強化を検討している。
こうした誤りは、対立する法律事務所Boies Schiller Flexnerによって発見された。AmLaw Global 200で30位にランクされているSullivan & Cromwellは、以前は暗号資産取引所FTXの破産手続きにおいて同取引所を代理していた。
