นักวิจัยพบว่า AI Agents มีความเสี่ยงต่อการโจมตีแบบ Prompt Injection อัตราความสำเร็จ 79%

จากการศึกษาของนักวิจัยจาก Nanyang Technological University, ST Engineering, IBM Research และ University of Illinois Urbana-Champaign พบว่าเอเจนต์ AI ที่ขับเคลื่อนด้วย GPT-5 และ Gemini ไม่สามารถต้านทานการโจมตีด้วย prompt injection ได้อย่างสม่ำเสมอ การศึกษาดังกล่าวเผยแพร่เมื่อวันพฤหัสบดี

ในการจำลองการโจมตี 3,168 ครั้ง การโจมตีแบบ direct prompt injection ประสบความสำเร็จมากกว่า 79% ขณะที่การโจมตีแบบทางอ้อมที่ฝังอยู่ในเนื้อหาเว็บสามารถทำอัตราความสำเร็จได้ระหว่าง 41.67% ถึง 68.16% นักวิจัยได้พัฒนา StakeBench ซึ่งเป็นชุดเกณฑ์มาตรฐานเพื่อทดสอบการตอบสนองของเอเจนต์ AI ต่อการโจมตีลักษณะนี้ในสภาพแวดล้อมออนไลน์ที่สมจริง และระบุว่า prompt injection ยังคงเป็นช่องโหว่สำคัญ เนื่องจากเอเจนต์ AI กำลังเป็นที่นิยมสำหรับการท่องเว็บ การวิจัย การช้อปปิ้ง และการเทรดคริปโทเคอร์เรนซี