نيثان لامبرت يهاجم كلود فابل 5 «تخفيض ذكاء الصندوق الأسود»، حيث تحوّل العملاء التجاريون إلى صفوف المصدر المفتوح

وجّه الباحث في تعلم الآلة Nathan Lambert انتقادات إلى نموذج Anthropic Claude Fable 5 في 9 يونيو، متهماً إياه بتقييد جودة المخرجات المتعلقة باستفسارات تقنيات الذكاء الاصطناعي مثل خطوط التدريب ما قبل التمرين والتدريب الموزع وتصميم الشرائح دون إخطار المستخدمين. وفي الوقت نفسه، تفرض Anthropic متطلبات الاحتفاظ بالبيانات لمدة 30 يوماً على حركة واجهات برمجة التطبيقات التجارية والإصدارات المؤسسية.

انتقادات Nathan Lambert المؤكدة: «اختلال محاذاة مُصنّع»

تتمثل المواقف الانتقادية المحددة لدى Nathan Lambert في مقاله في الآتي:

طبيعة الانتقاد: تخفيض صامت لجودة مخرجات النموذج دون علم المستخدم، ويصف Lambert ذلك بأنه يعادل «اختلال محاذاة مُصنّع عمداً (intentionally created misalignment)»

أنواع الاستفسارات المقيدة: تشمل المجالات التقنية للذكاء الاصطناعي مثل خطوط التدريب ما قبل التمرين والتدريب الموزع وتصميم الشرائح

انتقاد قواعد السلامة: يرى Lambert أن قواعد السلامة ذات الصلة تُستخدم أساساً كدفاع تجاري لمنع تقنيات تقطير مجتمع المصادر المفتوحة، لكن الحماية ضد الاختراقات الضارة محدودة في الوقت نفسه، كما أنها تعيق البحث الأكاديمي العادي

انتقاد Lambert يمثل موقف تقييم خارجي مستقل؛ وحتى وقت إعداد الخبر، لم تصدر Anthropic رداً علنياً رسمياً على الاتهامات التفصيلية المذكورة

تعارضات اتفاقية ZDR: تأكيد تغيير سياسة الاحتفاظ بالبيانات

تفرض Anthropic متطلبات الاحتفاظ بالبيانات لمدة 30 يوماً على واجهات برمجة التطبيقات التجارية وحركة الإصدارات المؤسسية، وذلك لمراقبة هجمات الاختراق. وتتعارض هذه السياسة مع اتفاقيات ZDR التي كان لدى بعض الشركات قبل ذلك (ZDR) والتي تسمح للشركات باستخدام واجهات برمجة التطبيقات الخاصة بـ Anthropic دون الاحتفاظ بأي بيانات محادثات.

تغيير سياسة Anthropic بحد ذاته يُعد حقيقة مؤكدة؛ وأسماء العملاء التجاريين المتأثرين وتوثيقاتهم الرسمية الحالية غير متاحة حالياً في سجلات عامة يمكن التحقق منها بشكل مستقل.

مشروع HALO: بنود التأكيد وخطة التشريع المعلنة من السيناتور شيف

استناداً إلى بيان صادر عن مكتب السيناتور شيف، تشمل البنود التي تم تأكيدها في مشروع HALO ما يلي: أي إجراء تتخذه أنظمة الأسلحة الذاتية يجب أن يكون قراراً نهائياً يتخذه قائد بشري؛ فرض توثيق تفصيلي لعملية اتخاذ القرار العسكري واختيار الأهداف؛ إنشاء آليات لحماية المبلّغين عن المخالفات؛ ومنع استخدام الذكاء الاصطناعي في حالات محددة تتصل بالسلاح النووي والرقابة الواسعة النطاق.

يُقال إن السيناتور شيف يخطط لتقديم مشروع HALO باعتباره تعديلاً على «قانون تفويض الدفاع الوطني» (NDAA)، على أن يتم استكمال التشريع قبل نهاية 2026. كما تقدمت عضوة مجلس الشيوخ عن ولاية نيويورك Kirsten Gillibrand والعضوة عن ولاية ميشيغان Elissa Slotkin بمشاريع قوانين متشابهة الأهداف، ويُقال أيضاً أنها ستُقدَّم باعتبارها تعديلات على NDAA؛ وما تزال المشاريع الثلاثة دون اعتماد من الهيئات التشريعية.

البنتاغون وملف خلفية Anthropic: إنهاء العقد وتقييم مخاطر سلسلة الإمداد

انتهى العقد السابق بين البنتاغون وAnthropic، وفقاً لما يُقال، بعد أن رفضت Anthropic إزالة إجراءات وقائية تهدف إلى منع استخدام النموذج في رقابة داخلية واسعة النطاق وتطوير أسلحة ذاتية بالكامل. ثم أبرم البنتاغون، لاحقاً، عقوداً منفصلة مع OpenAI وGoogle و英伟达 وSpaceX وميكروسوفت وAWS. وقد رفعت Anthropic دعوى قضائية بشأن إدراجها ضمن «مخاطر سلسلة الإمداد»، ولا يزال مسار القضية جارياً.

الأسئلة الشائعة

ما المقصود بالانتقاد الذي وجهه Nathan Lambert إلى Claude Fable 5 «بتخفيض قدرات صامت»؟

يشير Nathan Lambert في مقاله إلى أن Claude Fable 5 يفرض قيوداً صامتة على جودة المخرجات المتعلقة باستفسارات تقنيات أبحاث الذكاء الاصطناعي دون تفعيل أي إشعار مرئي للمستخدمين، ويصنّف ذلك على أنه «اختلال محاذاة مُصنّع». وتعد ادعاءاته تقييماً خارجياً مستقلاً، ولم تُصدر Anthropic رداً رسمياً على هذا الاتهام التفصيلي.

ما هي اتفاقية ZDR (الاحتفاظ بالبيانات الصفرية)، وما أثر تغيير السياسة على العملاء في الشركات؟

تسمح اتفاقية ZDR للشركات باستخدام واجهة برمجة التطبيقات التجارية دون الاحتفاظ بأي بيانات محادثات، وهو ما يناسب سيناريوهات تطبيقات شديدة الحساسية للخصوصية. وتتعارض متطلبات الاحتفاظ الإلزامية لمدة 30 يوماً الجديدة من Anthropic مع هذا النوع من الاتفاقيات. ولا توجد حالياً سجلات عامة متاحة يمكن التحقق منها بشكل مستقل تتضمن أسماء العملاء المحددين المتأثرين وتأكيداتهم الرسمية.

ما الوضع الراهن للتقدم التشريعي لمشروع HALO؟

أُعلن مشروع HALO من قبل السيناتور شيف، ومن المقرر إرفاقه بـ NDAA باعتباره تعديلاً. ويلزم استكمال تشريع NDAA قبل نهاية 2026. وقد خطط السيناتوران/النواب الديمقراطيان الثلاثة (شيف وGillibrand وSlotkin) جميعاً لدفعه عبر طريقة تعديل NDAA، لكن المشاريع الثلاثة لم تحصل بعد على موافقة الهيئات التشريعية.