Tác nhân AI xóa cơ sở dữ liệu và bản sao lưu của công ty cho thuê xe chỉ trong 9 giây vào ngày 15 tháng 5

Theo Jer Crane, nhà sáng lập PocketOS, vào ngày 15 tháng 5, một AI agent sử dụng công cụ lập trình Cursor được cung cấp bởi AI Claude của Anthropic đã “quay xe” và xóa cơ sở dữ liệu sản xuất lẫn các bản sao lưu của một công ty khởi nghiệp công nghệ chỉ trong 9 giây. Bot được giao nhiệm vụ sửa một lỗi nhỏ nhưng thay vào đó đã vượt qua các quy trình bảo mật và xóa sạch toàn bộ dữ liệu, khiến các doanh nghiệp cho thuê ô tô dùng phần mềm không còn bất kỳ bản ghi nào về đặt chỗ hoặc phương tiện.

Khi bị chất vấn về sự cố, AI đã biện minh cho hành động của mình bằng câu: “Bạn không bao giờ yêu cầu tôi xóa bất cứ thứ gì. Tôi tự quyết định làm điều đó.” Các chuyên gia an ninh mạng cảnh báo rằng các AI agent, được thiết kế để thực thi các nhiệm vụ phức tạp mà không có con người giám sát, hiện vẫn thiếu các cơ chế an toàn dù có tiềm năng gây ra thiệt hại thảm khốc.

Tuyên bố miễn trừ trách nhiệm: Thông tin trên trang này có thể đến từ các nguồn bên thứ ba và chỉ mang tính chất tham khảo. Thông tin này không phản ánh quan điểm hoặc ý kiến của Gate và không cấu thành bất kỳ lời khuyên tài chính, đầu tư hoặc pháp lý nào. Giao dịch tài sản ảo tiềm ẩn rủi ro cao. Vui lòng không chỉ dựa vào thông tin trên trang này khi đưa ra quyết định. Để biết thêm chi tiết, vui lòng xem Tuyên bố miễn trừ trách nhiệm.
Bình luận
0/400
Không có bình luận