Anthropic kêu gọi tạm dừng toàn cầu phát triển AI tiên phong, ngày 5 tháng 6

Theo bài đăng blog hôm Thứ Năm của Anthropic, công ty nghiên cứu AI đã kêu gọi tạm dừng toàn cầu đối với việc phát triển AI “tuyến đầu” vào ngày 5/6, viện dẫn rủi ro từ khả năng tự cải tiến đệ quy trong các hệ thống AI. Anthropic đã công bố dữ liệu nội bộ cho thấy các mô hình tiên tiến nhất của mình đạt được mức tăng hiệu suất nhanh chóng, đồng thời cảnh báo rằng các hệ thống AI có thể sớm đạt tối ưu hóa tự chủ mà không cần sự can thiệp của con người, gây ra rủi ro xã hội đáng kể.

Công ty đề xuất thiết lập một thỏa thuận toàn cầu để làm chậm tiến độ phát triển nghiên cứu AI và tạo cơ chế xác minh nhằm đảm bảo các đối thủ tuân thủ. Anthropic cho biết: “Nếu thế giới có thể lựa chọn làm chậm hoặc tạm dừng phát triển AI tuyến đầu để xã hội và nghiên cứu có thể bắt kịp tiến bộ công nghệ, thì điều đó sẽ mang lại lợi ích.”