باول وبِسِنت يحذران البنوك من مخاطر أمنية ناتجة عن ذكاء Anthropic الاصطناعي الأسطوري: بلومبرغ

بإيجاز

• حذّر مسؤولون أمريكيون البنوك الكبرى من مخاطر الأمن السيبراني المرتبطة بنموذج الذكاء الاصطناعي "Mythos" التابع لـAnthropic، وفقًا لتقرير من Bloomberg.
• يُقال إن النظام يمكنه تحديد واستغلال نقاط الضعف في أنظمة التشغيل والمتصفحات.
• لدى Anthropic وصول محدود إلى النموذج أثناء تقييمها للمخاطر الأمنية المحتملة.

يُقال إن وزير الخزانة الأمريكي سكوت بستينت ورئيس مجلس الاحتياطي الفيدرالي جيروم باول قد عقدا اجتماعًا مع كبار قادة بنوك وول ستريت في وقت سابق من هذا الأسبوع لتحذيرهم من مخاطر الأمن السيبراني المرتبطة بنموذج جديد للذكاء الاصطناعي من Anthropic. ووفقًا لتقرير من Bloomberg، ضم الاجتماع تنفيذيين من Citigroup وBank of America وWells Fargo وMorgan Stanley وGoldman Sachs. ناقش المسؤولون نموذج الذكاء الاصطناعي الجديد لدى Anthropic Mythos، الذي أثار في الآونة الأخيرة قلقًا واسعًا بسبب قدراته المتقدمة الظاهرة في مجال الأمن السيبراني. عقد المسؤولون الاجتماع لضمان فهم البنوك للمخاطر التي تشكلها الأنظمة القادرة على تحديد واستغلال ثغرات البرامج عبر أنظمة التشغيل ومتصفحات الويب، ولتشجيع المؤسسات على تعزيز دفاعاتها ضد هجمات إلكترونية مدعومة بالذكاء الاصطناعي تستهدف البنية التحتية المالية.

حذّر باحثون أمنيون من أن الأدوات القادرة على اكتشاف الثغرات بشكل تلقائي يمكن أن تُسرّع أعمال الأمن الدفاعي وكذلك الهجمات الخبيثة إذا تم إساءة استخدامها.  ظهر نموذج Mythos لدى Anthropic لأول مرة على الإنترنت في مارس بعد تسريب مواد أولية عن النظام، ما كشف عن ما وصفته الشركة بأنه أكثر نماذج الذكاء الاصطناعي قدرة لديها حتى الآن. في الاختبارات، يُقال إن النظام عثر على آلاف الثغرات البرمجية غير المعروفة سابقًا، بما في ذلك ثغرات يوم-صفر عبر أنظمة تشغيل ومُتصفحات ويب رئيسية. قال باحثون لدى Anthropic في تقرير صدر في وقت سابق من هذا الأسبوع إن قدرات اكتشاف الثغرات لدى Mythos Preview لم تكن مُدرّبة عمدًا، بل ظهرت بدلًا من ذلك من تحسينات أوسع في ترميز النموذج واستدلاله وقدرته على الاستقلالية.

"إن التحسينات نفسها التي تجعل النموذج أكثر فعالية بكثير في ترقيع الثغرات تجعلُه أيضًا أكثر فعالية بكثير في استغلالها"، كتبت الشركة. وبسبب هذه القدرات، قيّدت Anthropic الوصول إلى مجموعة صغيرة من مؤسسات الأمن السيبراني. "نظرًا لقوة قدراته، نحن متعمدون بشأن كيفية إصدارها"، قالت Anthropic في بيان. "ووفقًا للممارسة المعتادة في القطاع، نعمل مع مجموعة صغيرة من العملاء الذين يحصلون على وصول مبكر لاختبار النموذج. ونعتبر هذا النموذج قفزة نوعية وأشد النماذج قدرة التي بنيناها حتى الآن." ولمعالجة هذا الخطر، تقوم Anthropic باختبار Mythos عبر Project Glasswing، وهو تعاون مع شركات تقنية وأمن سيبراني كبرى يستخدم النموذج لتحديد الثغرات وإصلاحها في البرامج الحاسمة قبل أن يتمكن المهاجمون من استغلالها. "تُعد Project Glasswing نقطة انطلاق. لا يمكن لأي منظمة واحدة أن تحل مشكلات الأمن السيبراني هذه بمفردها"، قالَت الشركة في بيان. "لدى مطوري Frontier AI، وشركات برمجيات أخرى، وباحثين أمنيين، ومطوري البرمجيات مفتوحة المصدر، وحكومات في أنحاء العالم جميعًا أدوار أساسية للقيام بها." لم ترد Anthropic على الفور على طلب Decrypt للتعليق.