Một bước ngoặt thú vị trong câu chuyện về AI và hợp đồng quân sự. Hóa ra, khi liên quan đến số tiền lớn, ngay cả các công ty tuyên bố tiêu chuẩn đạo đức cao cũng bắt đầu xem xét lại lập trường của mình.

Mọi chuyện bắt đầu từ việc Anthropic, nhà sáng lập Claude, từ chối theo ý Pentagon. Cơ quan quân sự yêu cầu loại bỏ tất cả các hạn chế về việc sử dụng AI cho giám sát quy mô lớn và vũ khí tự hành. Anthropic chọn con đường nguyên tắc và từ chối, mặc dù đó là hợp đồng trị giá 200 triệu đô la. Rủi ro lớn đối với bất kỳ công ty nào, nhưng họ đặt vấn đề đạo đức lên trên lợi ích tài chính.

Đáp lại, Pentagon không ngần ngại. Anthropic bị chính thức xếp vào danh sách mối đe dọa đối với an ninh chuỗi cung ứng, gần như cấm họ tiếp cận các dự án quân sự. Có vẻ như đó là kết thúc của câu chuyện.

Nhưng chính tại đây mới bắt đầu phần thú vị nhất. OpenAI, ban đầu trông như đồng minh của Anthropic về mặt đạo đức, bất ngờ ký hợp đồng với Pentagon theo các điều kiện tương tự. Chỉ có điều, họ không đưa ra cam kết về các hạn chế. Về cơ bản, họ đã chiếm chỗ mà Anthropic để lại, nhưng không theo nguyên tắc.

Đây là một ví dụ rõ ràng về cách hoạt động của kinh doanh thực tế. Những lời nói hay về đạo đức nghe có vẻ hay, cho đến khi có đề nghị nghiêm trọng xuất hiện. Khi tiền đã đặt trên bàn, các ưu tiên có thể thay đổi. OpenAI cho thấy rằng, trong mối quan hệ với nhà nước, đạo đức của họ ít quan trọng hơn các khả năng hợp đồng.

Tình hình phản ánh sự căng thẳng ngày càng gia tăng trong ngành AI. Một mặt, các công ty nói về phát triển công nghệ có trách nhiệm và khung đạo đức. Mặt khác, các cơ quan nhà nước thúc đẩy mở rộng khả năng, và cạnh tranh giữa các công ty đẩy họ phải đi đến những thỏa hiệp với chính nguyên tắc của mình. Vấn đề đạo đức ngày càng trở nên phức tạp hơn khi liên quan đến ứng dụng quân sự của AI và các hợp đồng nhà nước quy mô lớn.