أنثروبيك تتعاون مع شركة مايكروسوفت (MSFT.US) وغيرها من عمالقة التكنولوجيا لاختبار نماذج ذكاء اصطناعي جديدة لمواجهة مخاطر الأمن السيبراني

تلقّت APP Zhitong Finance إشعارًا بأن شركة Anthropic أعلنت يوم الثلاثاء أنها ستتعاون مع عدة عمالقة تقنيين لإطلاق خطة جديدة للتعامل مسبقًا مع التهديدات الأمنية السيبرانية المحتملة التي قد يسببها نموذج ذكاء اصطناعي أقوى.

ووفقًا للعرض، أطلقت شركة Anthropic مشروع تعاون يُسمّى “Project Glasswing”، وستتيح لشركات تقنية متعددة، بما في ذلك Amazon (AMZN.US)، وApple (AAPL.US)، وMicrosoft (MSFT.US)، وCisco (CSCO.US)، نموذج ذكاء اصطناعي لم يتم إصداره بعد باسم “Mythos”. ستستخدم الشركات المعنية هذا النموذج لتحديد الثغرات الأمنية في منتجاتها، وستشارك نتائج الأبحاث مع القطاع.

قالت Anthropic إنه لا توجد حاليًا خطط لإتاحة Mythos لعامة الجمهور، وفي المستقبل ستضع للنموذج “حواجز” أمان أكثر اكتمالًا بناءً على نتائج الملاحظات من مشروع Glasswing. تعكس هذه الخطوة تزايد القلق في قطاع التكنولوجيا بشأن احتمال إساءة استخدام نماذج الذكاء الاصطناعي المتقدمة من قبل مهاجمين قد يكونون قراصنة أو مدعومين من دول.

يرى كثيرون في المجال عمومًا أنه مع تحسّن قدرات الذكاء الاصطناعي، فإن قدرته على تحليل الكود واستخراج الثغرات ستتعزّز أيضًا بالتوازي، ما قد يجعله يُستخدم للتحايل على منظومات الدفاعات الشبكية الحالية. كما شدد منافس Anthropic، OpenAI، في السابق على مخاطر مماثلة وأطلق مشروعًا تجريبيًا يمنح أدوات الذكاء الاصطناعي أولوية للاستخدام من قِبل جهات الدفاع.

قال Newton Cheng، مدير فريق الأمن السيبراني لدى Anthropic، إن هذه ليست مشكلة شركة واحدة فقط، بل تحدٍ يحتاج القطاع بأكمله وحتى الحكومات إلى مواجهته معًا. “نريد أن نمنح جهات الدفاع أفضلية السبق عبر Glasswing قبل انتشار التقنية.”

كما كشفت الشركة أنها أجرَت تواصلًا بشأن قدرات أمان Mythos مع الجهات الحكومية الأميركية ذات الصلة، وتواصل العمل بالتعاون مع هيئة الأمن السيبراني وأمن البنية التحتية (CISA) والمعهد الوطني للمعايير والتقنية (NIST).

على الرغم من أن Mythos ليس مُطوّرًا خصيصًا لأمن السيبراني، إلا أن أداؤه أثار الاهتمام. قالت Anthropic إن النموذج قد اكتشف عدة ثغرات مهمة، بما في ذلك ثغرة في برنامج إنترنت حيوي ظلت موجودة لمدة تصل إلى 27 عامًا، وكذلك خلل في كود لعبة لم يُكتشف لمدة 16 عامًا، وقد جرى فحصه بواسطة أدوات اختبار آلية أكثر من 5M مرة دون أن يتم تحديده.

ولمنع إساءة استخدام التقنية، قالت Anthropic إنها وضعت إجراءات صارمة للتحكم في الوصول على المشاركين في مشروع Glasswing، لكنها لم تكشف عن تفاصيل محددة.