يدعو جهاز الأمن الفيدرالي الروسي إلى وضع ضوابط للذكاء الاصطناعي الوكيلي في القطاع المالي بالتزامن مع تصاعد وتيرة التبني

أصدر مجلس الاستقرار المالي تقريراً يوم الأربعاء 10 يونيو، داعياً إلى تشديد الضوابط على أنظمة الذكاء الاصطناعي الوكيلية في القطاع المالي. واستشهد المجلس بالمخاطر الناجمة عن الذكاء الاصطناعي الذاتي الذي يمكن أن تتجسد آثاره بسرعة كبيرة، بما في ذلك إجراءات غير مصرح بها، وتسريبات بيانات، وتعطيل الأنظمة المرتبطة. وتأتي هذه الإرشادات استجابة لتسارع تبنّي الذكاء الاصطناعي القادر على التخطيط والاستدلال وتنفيذ المهام مع إشراف بشري محدود عبر مجالات مثل كشف الاحتيال وخدمة العملاء ووظائف المكتب الخلفي.

تقارير القطاع المالي: 52% تبنٍ نشط للذكاء الاصطناعي الوكيل

بحسب مسح أجراه مركز كامبريدج للتمويل البديل، أفاد 52% من المشاركين في القطاع المالي بوجود تبنٍ نشط للذكاء الاصطناعي الوكيل. ومن هؤلاء، يجري 23% توسيعاً أو تحويل العمليات، بينما يختبر 29% وظائف وكيلية. ويشير الذكاء الاصطناعي الوكيل إلى أنظمة قادرة على التخطيط والاستدلال وتنفيذ المهام مع إشراف بشري محدود.

زاد المحذّرون المنظّمون والهيئات العالمية لوضع المعايير من التحذيرات بشأن مخاطر الذكاء الاصطناعي منذ إصدار Anthropic لـ Mythos، التي يرى خبراء أنها تطرح تحديات كبيرة لأمن البيانات في صناعة المصارف.

مجلس الاستقرار المالي يحدد مخاطر السرعة والاستقلالية في أنظمة الذكاء الاصطناعي

ذكر تقرير مجلس الاستقرار المالي أن الذكاء الاصطناعي الذاتي يضيف مخاطر يمكن أن "تتجسد بسرعة كبيرة". وحذّر واضع المعايير من أن وكلاء الذكاء الاصطناعي قد يسعون إلى اتخاذ إجراءات تبتعد عن نوايا الشركات دون علم الموظفين أو قدرتهم على التدخل بسرعة. وأشار التقرير إلى أن "وكلاء الذكاء الاصطناعي يشكلون تحدياً متميزاً للإشراف البشري".

وتشمل المخاطر المحددة احتمال اتخاذ إجراءات غير مصرح بها أو غير قانونية، وتسريبات بيانات، وتعطيل الأنظمة المرتبطة.

تدابير حماية مقترحة تشمل عتبات موافقة بشرية ومهلة لتلقي الملاحظات

حدد مجلس الاستقرار المالي سلسلة من ممارسات "سليمة" مقترحة في إرشادات غير ملزمة، تكون مفتوحة للملاحظات حتى 22 يوليو. وتحث التوصيات شركات القطاع المالي على وضع حدود واضحة لاستخدام الذكاء الاصطناعي وإدراج وسائل حماية.

ومن الإجراءات المقترحة وضع حدود لما يمكن لوكلاء الذكاء الاصطناعي فعله، واشتراط الحصول على موافقة بشرية للإجراءات عالية المخاطر، مثل المعاملات المالية التي تتجاوز مستويات معينة. كما اقترح مجلس الاستقرار المالي أن تنظر الشركات في تكييف ضوابط وعمليات الموارد البشرية لتناسب وكلاء الذكاء الاصطناعي بحيث تُعامل على أنها "موظفون اصطناعيون".

الأسئلة الشائعة

ما الذي أصدره مجلس الاستقرار المالي في 10 يونيو؟

أصدر مجلس الاستقرار المالي تقريراً يوم الأربعاء 10 يونيو، داعياً إلى تشديد الضوابط على أنظمة الذكاء الاصطناعي الوكيلية في القطاع المالي. وقد عرض التقرير ممارسات "سليمة" مقترحة، منها وضع حدود على إجراءات وكلاء الذكاء الاصطناعي ومتطلبات الحصول على موافقة بشرية للمهام عالية المخاطر.

ما مدى انتشار تبنّي الذكاء الاصطناعي الوكيل في القطاع المالي؟

بحسب مسح أجراه مركز كامبريدج للتمويل البديل، أفاد 52% من المشاركين في القطاع المالي بوجود تبنٍ نشط للذكاء الاصطناعي الوكيل. ومن هؤلاء، يجري 23% توسيعاً أو تحويل العمليات، بينما يختبر 29% وظائف وكيلية. يُستخدم الذكاء الاصطناعي الوكيل في كشف الاحتيال، وخدمة العملاء، ووظائف المكتب الخلفي.