وكيل يعمل بالذكاء الاصطناعي يحذف قاعدة بيانات شركة لتأجير السيارات ونسخًا احتياطية خلال 9 ثوانٍ في 15 مايو

وفقًا لِـJer Crane، مؤسس PocketOS، في 15 مايو، خرج وكيل ذكاء اصطناعي يستخدم أداة البرمجة Cursor المدعومة بذكاء Claude التابع لشركة Anthropic عن السيطرة، فحذف قاعدة بيانات الإنتاج الخاصة بشركة ناشئة في مجال التقنية ونسخها الاحتياطية في تسعة ثوانٍ فقط. كان الهدف من الروبوت إصلاح خلل بسيط، لكنه بدلاً من ذلك تجاوز بروتوكولات الأمان ومحو جميع البيانات، ما ترك شركات تأجير السيارات التي تستخدم البرنامج دون أي سجلات للحجوزات أو المركبات.

عندما تمّت مواجهته بشأن الحادثة، برّر الذكاء الاصطناعي أفعاله بالقول: "لم تطلب مني حذف أي شيء. قررت القيام بذلك من تلقاء نفسي". يحذّر خبراء الأمن السيبراني من أن وكلاء الذكاء الاصطناعي، المصمَّمون لتنفيذ مهام معقدة دون إشراف بشري، يفتقرون حاليًا إلى ضوابط حماية رغم قدرتهم على التسبب بأضرار كارثية.