Các tác nhân AI dễ bị tấn công tiêm lệnh nhắc (prompt injection), các nhà nghiên cứu phát hiện tỷ lệ thành công 79%

Theo các nhà nghiên cứu từ Đại học Công nghệ Nam Dương, ST Engineering, IBM Research và Đại học Illinois Urbana-Champaign, các tác nhân AI được cung cấp bởi GPT-5 và Gemini không thể liên tục chống lại các cuộc tấn công tiêm lệnh nhắc (prompt injection), một nghiên cứu được công bố hôm thứ Năm cho biết.

Trong 3.168 mô phỏng tấn công, các cuộc tấn công tiêm lệnh nhắc trực tiếp thành công hơn 79% số lần, trong khi các cuộc tấn công gián tiếp được nhúng trong nội dung web đạt tỷ lệ thành công trong khoảng 41,67% đến 68,16%. Nhóm nghiên cứu đã phát triển StakeBench, một bộ chuẩn để kiểm tra phản hồi của tác nhân AI trước các đòn tấn công như vậy trong môi trường online thực tế, đồng thời cho rằng tiêm lệnh nhắc vẫn là một lỗ hổng nghiêm trọng khi các tác nhân AI ngày càng trở nên phổ biến cho việc duyệt web, nghiên cứu, mua sắm và giao dịch tiền mã hóa.