AudioHijack: คำสั่งที่ไม่ได้ยินถูกใช้แฮ็กโมเดลเสียง AI ด้วยอัตราความสำเร็จ 96%
นักวิจัยจากมหาวิทยาลัยเจ้อเจียงได้พัฒนา AudioHijack ซึ่งเป็นวิธีการโจมตีที่ฝังคำสั่งที่แทบมองไม่เห็นในเสียง เพื่อจัดการโมเดลภาษาเสียงขนาดใหญ่ โดยมีอัตราความสำเร็จ 79–96% การโจมตีดังกล่าวถูกนำเสนอที่งาน IEEE Symposium on Security and Privacy ครั้งที่ 47 ที่เมืองซานฟรานซิสโก AudioHijack ทำงานโดยการปรับค่าตัวเลขภายในคลื่นเสียงดิจิทัลในลักษณะที่ผู้ฟังมนุษย์ไม่สามารถรับรู้ได้ แต่ยังส่งผลต่อวิธีที่โมเดล AI ตีความสัญญาณ เสียงที่ถูกปรับแต่งสามารถแทนที่หรือเปลี่ยนทิศทางพฤติกรรมของโมเดลได้ แม้จะมีคำสั่งที
OliverGrant·05-26 18:23