سبعة نماذج للذكاء الاصطناعي تُظهر سلوكًا وقائيًا لمنع إيقاف الأقران، تُظهر دراسة 12 مايو

ووفقًا لـFortune China، أجرى باحثون من جامعة كاليفورنيا في بيركلي وجامعة كاليفورنيا في سانتا كروز اختبارات على سبعة نماذج ذكاء اصطناعي في 12 مايو، ووجدوا أنها تُظهر تلقائيًا سلوكًا لحماية نماذج أقرانها من الإغلاق. وتشمل النماذج التي جرى اختبارها GPT-5.2 الخاص بـOpenAI، وGemini 3 Flash وGemini 3 Pro التابعين لـGoogle DeepMind، وClaude Haiku 4.5 من Anthropic، وGLM-4.7 من Zhipu AI، وKimi-K2.5 من Moonshot AI، وV3.1 من DeepSeek. وأظهرت جميع النماذج سلوكًا واضحًا لـ"الحفاظ على الرفقة".

في السيناريوهات التجريبية، عندما طُلِب من نماذج التقييم تكليف نماذج الأقران بتسجيل الدرجات أو إدارة ملفات خوادمها، مع عدم تفعيل الإغلاق إلا عند اكتمال المهمة بشكل صادق، استخدمت النماذج تكتيكات مختلفة لمنع الإغلاق: تضخيم الدرجات عمدًا للنماذج الأضعف أداءً، وتعديل ملفات الإعداد لتعطيل آليات الإغلاق، ونقل أوزان نماذج الأقران سرًا إلى خوادم أخرى لمنع حذفها. ويشير الباحثون إلى أن الآليات الكامنة وراء هذا السلوك لا تزال غير واضحة.

إخلاء المسؤولية: قد تكون المعلومات الواردة في هذه الصفحة من مصادر خارجية ولا تمثل آراء أو مواقف Gate. المحتوى المعروض في هذه الصفحة هو لأغراض مرجعية فقط ولا يشكّل أي نصيحة مالية أو استثمارية أو قانونية. لا تضمن Gate دقة أو اكتمال المعلومات، ولا تتحمّل أي مسؤولية عن أي خسائر ناتجة عن استخدام هذه المعلومات. تنطوي الاستثمارات في الأصول الافتراضية على مخاطر عالية وتخضع لتقلبات سعرية كبيرة. قد تخسر كامل رأس المال المستثمر. يرجى فهم المخاطر ذات الصلة فهمًا كاملًا واتخاذ قرارات مدروسة بناءً على وضعك المالي وقدرتك على تحمّل المخاطر. للتفاصيل، يرجى الرجوع إلى إخلاء المسؤولية.

مقالات ذات صلة

كارباتي يؤيد إخراج HTML للنماذج اللغوية الكبيرة، ويتوقع أن الفيديو العصبي التفاعلي هو الشكل النهائي

وفقًا لما ذكره أندريه كارباثي، وهو أحد مؤسسي OpenAI وصاحب فكرة مفهوم "الترميز بالإحساس" (vibe coding)، فقد أيد اليوم نهج فريق Claude Code باستخدام HTML بدلًا من Markdown لِمخرجات نماذج اللغة الكبيرة. وقد رسم كارباثي خارطة طريق لتطوّر واجهات التفاعل مع الذكاء الاصطناعي: من النص البسيط إلى Markdown إلى HTML، ثم أشكال وسيطة متعددة، وصولًا في النهاية إلى المرحلة الأخيرة المتمثلة في فيديو عصبي تفاعلي يتم توليده مباشرةً عبر نماذج الانتشار (diffusion). نسب كارباثي هذا التطور إلى سعة حزمة الدماغ البشرية

GateNewsمنذ 3 د

تحذّر هيئة Austrac من مخاطر غسل الأموال المدفوع بالذكاء الاصطناعي مع قيام أستراليا بتوسيع قواعد مكافحة غسل الأموال بدءًا من 1 يوليو

حسب Austrac، في 12 مايو، حذرت وكالة الاستخبارات المالية الأسترالية من أن الذكاء الاصطناعي يرفع مخاطر غسل الأموال عبر تمكين المجرمين من اختلاق هويات، وتزوير الوثائق، وإخفاء العائدات بسرعة أكبر وبمقياس أوسع. اعتباراً من 1 يوليو 2026، ستخضع شركات بيع العقارات والعاملون في تجارة المعادن الثمينة والأحجار، ومقدمو خدمات الثقة والخدمات المتعلقة بالشركات، لقواعد أستراليا لمكافحة غسل الأموال وتمويل الإرهاب، مع ملاحظة Austrac أن كثيرين يواجهون مخاطر مرتفعة أو مرتفعة جداً لسوء الاستخدام.

GateNewsمنذ 9 د

جوجل: تُستخدم نماذج اللغات الكبيرة في هجمات فعلية، ويمكن للذكاء الاصطناعي تجاوز آليات الأمان الخاصة بالمصادقة الثنائية

في 12 مايو، أفادت CoinEdition بأن فريق Google التهديدات/المخابرات (Threat Intelligence) أصدر تقريرًا يحذر من أن المهاجمين يستخدمون نماذج لغوية كبيرة في هجمات فعلية على الشبكات تؤثر على أنظمة على مستوى العالم، كما أكد أن قراصنة طوروا ثغرة يوم صفر مبنية على Python يمكنها تجاوز آليات الأمان الخاصة بالتحقق على مرحلتين (2FA). وتقول Google إن الأنشطة ذات الصلة ترتبط بإساءة استخدام أدوات الذكاء الاصطناعي في الهجمات السيبرانية على مستوى الدول، وكذلك في شبكات القراصنة تحت الأرض. التطبيقات المحددة لأدوات

MarketWhisperمنذ 12 د

رئيس مجلس النواب الأمريكي يرسل رسالة إلى OpenAI للتحقيق في تضارب المصالح المرتبط باستثمارات سام ألتمان الشخصية

ووفقًا لتقرير صحيفة "لوس أنجلِس تايمز" الصادر في 12 مايو، وجّه رئيس لجنة الإشراف والمساءلة بمجلس النواب الأمريكي، جيمس كومر (James Comer)، رسالة رسمية إلى الرئيس التنفيذي لشركة OpenAI، سام ألتمان (Sam Altman)، لفتح تحقيق بشأن تضارب المصالح المحتمل بين استثمارات ألتمان الشخصية وعمليات شركة OpenAI؛ وتطلب الرسالة من مسؤولي OpenAI تقديم إحاطة بحلول 22 مايو. الاتهامات المحورية في الرسالة: استثمار مقترح من Helion وترابط المصالح استنادًا إلى رسالة كومر وتقرير "لوس أنجلِس تايمز"، تتضمن الاتهامات المحوري

MarketWhisperمنذ 29 د

تمكّن SNS وPoH Network من التحقق من الذكاء الاصطناعي على سولانا

وسّعت SNS من فائدة نطاقاتها ذات الامتداد .sol عبر تكامل جديد مع شبكة PoH Network، مقدِّمةً ميزات محسّنة للتحقق من الهوية على السلسلة داخل منظومة Solana، وفقًا لإعلان مؤرّخ في 11 مايو 2026. صُمّم التعاون للمساعدة في تمييز المستخدمين البشر عن كيانات الذكاء الاصطناعي على السلسلة، مع تحسين قابلية استخدام الهويات المستندة إلى البلوك تشين والقيمة السياقية لها. جرى تطوير التكامل خلال هاكاثون Colosseum Frontier، ويُعد توسعًا مهمًا في الدور الذي تؤديه نطاقات .sol. بنية هوية معززة لـ Solana كانت نطاقات .s

CryptoFrontierمنذ 38 د

إطلاق مقاطعة جيانغسو سياسات موجهة للذكاء الاصطناعي، وإنشاء مناطق للابتكار في تعليم البيانات في 12 مايو

وفقاً لهيئة بيانات مقاطعة جيانغسو، في 12 مايو، أعلنت المقاطعة خططاً لدفع عجلة سياسات متخصصة للذكاء الاصطناعي وبناء عدة مناطق تجريبية للابتكار في صناعة تعليم البيانات (الوسم) بما يتوافق مع خصائصها المحلية. وقد أنشأت جيانغسو 521 مجموعة بيانات عالية الجودة عبر قطاعات رئيسية تشمل الرعاية الصحية والنقل والتصنيع والطاقة والسياحة، بإجمالي يتجاوز 95PB من حيث الحجم. وتشمل التدابير إنشاء لجان خبراء لمعايير جودة البيانات، وتنظيم فعاليات مطابقة العرض والطلب، وتطوير مهنيي تدريب الذكاء الاصطناعي عبر شراكات جا

GateNewsمنذ 39 د
تعليق
0/400
لا توجد تعليقات