Giám đốc điều hành Anthropic Dario Amodei kêu gọi các quy tắc an toàn AI mang tính ràng buộc khi tiến bộ vượt nhanh chính sách

Vào ngày 10 tháng 6, giám đốc điều hành Anthropic Dario Amodei đã đăng một bài tiểu luận cảnh báo rằng việc phát triển AI đang tiến triển nhanh hơn nhiều so với các hệ thống chính trị có thể phản ứng, tạo ra một khoảng trống quản trị mang tính cấp bách. Ông đề xuất một khung yêu cầu phải kiểm thử bắt buộc bên thứ ba đối với các mô hình tiên tiến trước khi triển khai, kèm các đánh giá về rủi ro an ninh mạng, lạm dụng sinh học và các kịch bản mất kiểm soát. Các chính phủ nên giữ thẩm quyền để trì hoãn hoặc chặn việc triển khai nếu rủi ro được đánh giá là không thể chấp nhận.

Amodei cũng nêu bật các rủi ro gián đoạn kinh tế, cho biết AI mạnh có thể thay thế một lượng lớn người lao động thông qua việc thay thế công việc dựa trên lao động trí óc, từ đó có thể tạo ra tăng trưởng nhanh trong khi bất bình đẳng vẫn dai dẳng. Ông kêu gọi các biện pháp chính sách bao gồm hỗ trợ lực lượng lao động, bảo hiểm tiền lương và các chương trình đào tạo lại. Ngoài ra, ông nhấn mạnh sự cần thiết để các nền dân chủ phối hợp về chuỗi cung ứng AI, các tiêu chuẩn an toàn và chính sách kinh tế, so sánh tầm quan trọng địa chính trị của AI với năng lượng hạt nhân.