Sullivan & Cromwell xin lỗi vì AI hallunation trong hồ sơ tòa án với 40 trích dẫn sai

Tin cổng, ngày 23 tháng 4 — Sullivan & Cromwell, một hãng luật lớn ở Phố Wall, đã xin lỗi một thẩm phán liên bang sau khi nộp một hồ sơ tòa án có chứa khoảng 40 trích dẫn không chính xác và các lỗi khác do hiện tượng AI hallunation. Andrew Dietderich, đồng trưởng nhóm tái cơ cấu toàn cầu của hãng, đã viết thư cho Chánh án Martin Glenn của Tòa án Phá sản Hoa Kỳ thuộc Quận phía Nam New York vào thứ Sáu, nêu rõ "Chúng tôi vô cùng hối tiếc vì điều này đã xảy ra" và nhận trách nhiệm cho việc không đảm bảo tính chính xác.

Theo một cơ sở dữ liệu do chuyên gia công nghệ pháp lý Damien Charlotin quản lý, đã có 1.334 vụ việc được ghi nhận về AI hallunation trong hồ sơ tòa án trên toàn thế giới, với hơn 900 vụ xảy ra tại Mỹ. Phần lớn các hallunation này liên quan đến các trích dẫn do bịa đặt, dù trong một số trường hợp cũng đã xác định được các lập luận pháp lý do AI tạo ra.

Dietderich cho biết Sullivan & Cromwell có các chính sách áp dụng cho việc sử dụng công cụ AI, bao gồm quy trình rà soát trích dẫn, nhưng các chính sách này đã không được tuân thủ trong trường hợp lần này. Ông nói: "Rất tiếc, quy trình rà soát này đã không phát hiện các trích dẫn không chính xác do AI tạo ra, cũng như không phát hiện các lỗi khác dường như đã phát sinh toàn bộ hoặc một phần từ lỗi thủ công." Hãng đang tiến hành điều tra nội bộ và đánh giá các cải tiến đối với quy trình đào tạo và rà soát.

Các lỗi được phát hiện bởi hãng luật đối thủ Boies Schiller Flexner. Sullivan & Cromwell, xếp thứ 30 trong AmLaw Global 200, trước đây từng đại diện cho sàn giao dịch tiền mã hóa FTX trong vụ phá sản của sàn này.