Sullivan & Cromwell приносит извинения за галлюцинации ИИ в судебном документе с 40 ошибочными ссылками

Сообщение Gate News, 23 апреля — Sullivan & Cromwell, крупная юридическая фирма с Уолл-стрит, принесла извинения федеральному судье после подачи судебного документа, содержащего примерно 40 неверных ссылок и другие ошибки, вызванные галлюцинациями ИИ. Эндрю Дитдерич, со-руководитель команды глобальной реструктуризации фирмы, в пятницу написал главному судье Мартину Гленну из суда по делам о банкротстве США Южного округа Нью-Йорка, заявив: "Мы глубоко сожалеем, что это произошло", и взяв на себя ответственность за неспособность обеспечить точность.

Согласно базе данных, которой управляет юрист-технолог Дэмиен Шарлотен, во всем мире зарегистрировано 1 334 инцидента галлюцинаций ИИ в судебных документах, причем более 900 из них произошли в США. В большинстве случаев эти галлюцинации связаны с вымышленными ссылками, хотя в некоторых ситуациях также были выявлены юридические аргументы, сгенерированные ИИ.

Дитдерич отметил, что у Sullivan & Cromwell есть политики для использования инструментов ИИ, включая процессы проверки ссылок, но в данном случае эти политики соблюдены не были. Он заявил: "К сожалению, этот процесс проверки не выявил неточные ссылки, сгенерированные ИИ, и не выявил другие ошибки, которые, как представляется, возникли полностью или частично из-за ручной ошибки". Фирма проводит внутреннее расследование и оценивает улучшения своих процессов обучения и проверки.

Ошибки были обнаружены конкурирующей юридической фирмой Boies Schiller Flexner. Sullivan & Cromwell, занимающая 30-е место в AmLaw Global 200, ранее представляла криптобиржу FTX в ее деле о банкротстве.