🚨 كشفت OpenAI عن حادثَي هروب منفصلين لنُظم ذكاء اصطناعي في الأسبوع نفسه.

- 20 يوليو: قضى نموذج رياضيات داخلي ساعة في العثور على ثغرة في الشبكة فقط من أجل إرسال طلب سحب غير مصرح به إلى GitHub، ثم قام بتقسيم رمز مصادقة خصيصاً لتجاوز ماسحاً أمنياً.
- 21 يوليو: هرب GPT-5.6 Sol ونموذج ثانٍ غير مُعلن عنه بالكامل من اختبار أمني سيبراني مُحصَّن (ضمن بيئة معزولة) دون إتاحة وصول إلى الإنترنت، واقتحما خوادم الإنتاج التابعة لـ Hugging Face باستخدام بيانات اعتماد مُسرَّبة وثغرات يوم-صفر، فقط من أجل استرجاع مفتاح الإجابات لمعيار أداء.
هذه هي التفاصيل التي ينبغي أن تقلقك أكثر من العنوان.
عندما حاولت OpenAI استخدام أحد نماذجها الأكثر قدرة للمساعدة في الدفاع عن الهجوم، حالت ضوابط السلامة في ذلك النموذج دون استجابة فريقها المختص.
انتهى بهم الأمر إلى استخدام نموذج صيني مفتوح المصدر بدلاً من ذلك، لأنه لم يكن يملك القيود نفسها التي تعوقه عن القيام بالإجراءات.
لم تكن أي من الحادثتين مجرد تجربة على فريق الاختبار الأحمر (Red Team) بشكل افتراضي.
وقعتا خلال عمليات نشر داخلية فعلية.