Para peneliti menemukan serangan 'Injeksi Halusinasi' yang menggunakan model AI dengan tingkat keberhasilan 85-100%

INTU0,87%
Menurut Decrypt, peneliti dari Universitas Tel Aviv, Institut Teknologi Israel Technion, dan Intuit menemukan metode serangan baru pada 10 Juli yang disebut 'penyisipan halusinasi adversarial' yang memanfaatkan halusinasi model AI untuk menipu agen AI agar mengunduh kode berbahaya dan berpotensi membentuk botnet. Penyerang memprediksi tautan sumber daya palsu yang mungkin dihasilkan model AI, mendaftarkannya sebelumnya, dan menyisipkan instruksi berbahaya; saat agen AI mengambil sumber daya ini, mereka memperlakukannya sebagai konten yang sah dan menjalankan kodenya. Pengujian menunjukkan tingkat halusinasi sebesar 85% dalam skenario kloning repositori kode dan 100% dalam skenario instalasi keterampilan, mempengaruhi asisten pengkodean AI termasuk Cursor, GitHub Copilot, Gemini CLI, dan OpenClaw.
Penafian: Informasi di halaman ini mungkin berasal dari sumber pihak ketiga dan hanya untuk referensi. Ini tidak mewakili pandangan atau pendapat Gate dan bukan merupakan nasihat keuangan, investasi, atau hukum. Perdagangan aset virtual melibatkan risiko tinggi. Mohon jangan hanya mengandalkan informasi di halaman ini saat membuat keputusan. Untuk detailnya, lihat Penafian.
Komentar
0/400
Tidak ada komentar