Top Law Firm Thừa Nhận về Những "Ảo Tưởng" của AI trong Đơn Xin Phá Sản Liên Quan Đến Mạng Lừa Đảo Được Cho Là Đã Từng Tổ Chức

Tóm tắt ngắn gọn

• Công ty luật Sullivan & Cromwell đã thừa nhận rằng một hồ sơ gần đây trong một vụ án nổi bật chứa các “ảo giác” do AI tạo ra.
• Công ty cho biết kết quả của AI không được xác minh đúng cách và bao gồm các trích dẫn giả mạo.
• Vụ án liên quan đến nỗ lực của các nhà thanh lý do tòa án bổ nhiệm để theo đuổi các yêu cầu liên quan đến tổ chức bị trừng phạt Prince Group.

Công ty luật Sullivan & Cromwell đã thừa nhận với tòa án phá sản Hoa Kỳ rằng một hồ sơ gần đây trong một vụ án nổi bật chứa các lỗi do trí tuệ nhân tạo tạo ra, bao gồm các trích dẫn giả mạo. “Chúng tôi vô cùng tiếc về việc này,” Andrew Dietderich, trưởng bộ phận tái cấu trúc của công ty, viết thư gửi Thẩm phán Martin Glenn, nói rằng tài liệu này bao gồm các “ảo giác” của AI tạo ra các căn cứ giả mạo và làm sai lệch các căn cứ hiện có. Thông báo này được đưa ra trong một bức thư gửi Tòa án Phá sản Hoa Kỳ khu vực phía Nam của New York, nơi công ty đại diện cho các nhà thanh lý do tòa án bổ nhiệm từ Quần đảo Virgin Anh. Những sai sót xuất hiện trong một đơn kiến nghị ngày 9 tháng 4 và công ty cho biết quy tắc về việc sử dụng AI của họ đã không được tuân thủ trong quá trình chuẩn bị.

Vụ án liên quan đến nỗ lực của các nhà thanh lý đó để theo đuổi các yêu cầu liên quan đến Prince Group và chủ sở hữu của nó, Chen Zhi. Các công tố viên cáo buộc Chen chỉ đạo các tổ hợp lừa đảo nhắm vào các nạn nhân trên toàn thế giới và đã tìm cách thu hồi hàng tỷ đô la tiền điện tử mà họ cho là liên quan đến hoạt động này. Anh ta bị bắt giữ đầu năm nay tại Campuchia và sau đó được hồi hương về Trung Quốc. Thông qua các thủ tục theo Chương 15 tại Hoa Kỳ, các nhà thanh lý đang tìm kiếm sự công nhận quyền hạn của họ để hành động thay mặt cho các chủ nợ và các nạn nhân bị cáo buộc. Prince Group, được thành lập tại Quần đảo Virgin Anh, đã bị các cơ quan Hoa Kỳ liên kết với các hoạt động lừa đảo quy mô lớn ở Đông Nam Á và bị trừng phạt bởi chính phủ Anh và Hoa Kỳ. Theo một bản nộp sửa đổi, hồ sơ ngày 9 tháng 4 đã sai lệch luật án trong nhiều chỗ và bao gồm các trích dẫn không hỗ trợ các luận đề được gán cho chúng, trong khi một số dường như không có căn cứ nào cả. Công ty đã rút bỏ đơn kiến nghị ban đầu và đã nộp bản sửa đổi. Các luật sư của Prince Group và Chen tại Boies Schiller Flexner ban đầu đã xác định các lỗi này. Họ cho biết ngôn ngữ trích dẫn từ Mã số Phá sản Hoa Kỳ không thể tìm thấy và nhiều căn cứ bị mô tả sai hoặc nhận dạng sai. Trong một trường hợp, họ nói, một vụ án trích dẫn đề cập đến một quyết định khác trong một khu vực phán quyết khác.

 Trong một hồ sơ riêng, các bị cáo cho biết ít nhất 28 trích dẫn là sai lệch, bao gồm các trích dẫn do tòa án trích dẫn nhưng không tồn tại. Họ lập luận rằng thời điểm sửa đổi là gây thiệt hại vì hồ sơ đã sửa đến sau khi họ đã nộp các phản đối, và yêu cầu tòa hoãn phiên điều trần đã lên lịch và tổ chức một cuộc họp tình trạng. Sullivan & Cromwell cho biết chính sách của họ yêu cầu các luật sư hoàn thành đào tạo trước khi sử dụng các công cụ AI và xác minh độc lập tất cả kết quả đầu ra. “Trước khi bất kỳ luật sư nào của Công ty được cấp quyền truy cập vào các công cụ AI tạo sinh, luật sư đó phải hoàn thành hai mô-đun đào tạo bắt buộc, việc hoàn thành được theo dõi và xác minh. Đào tạo này nhấn mạnh nhiều lần về rủi ro của các ‘ảo giác’ của AI, bao gồm việc giả mạo các trích dẫn vụ án, hiểu sai các căn cứ, và trích dẫn không chính xác,” họ nói. “Nó hướng dẫn các luật sư ‘không tin gì và xác minh mọi thứ’ và làm rõ rằng việc không xác minh độc lập kết quả do AI tạo ra sẽ vi phạm chính sách của Công ty.” Công ty cho biết một cuộc rà soát rộng hơn đã phát hiện ra các vấn đề nhỏ khác trong các hồ sơ khác, mà họ quy cho lỗi của con người chứ không phải AI. Họ không tiết lộ tên các luật sư đã chuẩn bị đơn kiến nghị ban đầu. AI trong vòng tố tụng Sự cố này góp phần vào danh sách ngày càng tăng các sai sót liên quan đến AI trong thực hành pháp lý khi các công ty thử nghiệm các công cụ nhằm tăng tốc nghiên cứu và soạn thảo. Các tòa án gần đây đã trừng phạt hoặc chỉ trích các luật sư vì đã nộp các hồ sơ có các tham chiếu giả mạo hoặc không chính xác do AI tạo ra. Ở Úc, một luật sư đã bị tước quyền hành nghề chính là do sử dụng AI vào năm ngoái. Các trường luật bắt đầu yêu cầu giảng dạy về công nghệ này, trong khi các thẩm phán cao cấp đã cảnh báo rằng việc lạm dụng có thể ảnh hưởng đến tính toàn vẹn của các thủ tục tố tụng.

Các phán quyết gần đây cũng đã đề cập đến cách AI phù hợp với các khuôn khổ pháp lý hiện có, bao gồm cả việc liệu các tương tác với các công cụ này có được bảo vệ bởi quyền ưu tiên hay không. Đồng thời, một số tòa án đang thử nghiệm các hệ thống AI để giúp quản lý khối lượng công việc lớn.