تيذر تطلق إطار عمل تدريب الذكاء الاصطناعي للهواتف الذكية ومعالجات الرسومات الاستهلاكية

تذر أعلنت مؤخرًا عن إطار تدريب جديد للذكاء الاصطناعي، يتيح تعديل نماذج اللغة الكبيرة مباشرة على الأجهزة الاستهلاكية مثل الهواتف الذكية ووحدات معالجة الرسومات غير التابعة لـ Nvidia. يعتمد هذا النظام، الذي ينتمي إلى منصة QVAC، على بنية BitNet من Microsoft مع تقنية LoRA لتقليل متطلبات الذاكرة وتكاليف الحوسبة بشكل كبير.

وفقًا لـ Tether، يدعم الإطار متعدد المنصات، ويتوافق مع شرائح AMD وIntel وApple Silicon ووحدات معالجة الرسومات المحمولة من Qualcomm. يمكن للمهندسين ضبط نماذج تصل إلى مليار معلمة على الهاتف الذكي في أقل من ساعتين، وحتى توسيعها إلى 13 مليار معلمة على الأجهزة المحمولة.

تساعد تقنية BitNet على تقليل استهلاك VRAM بنسبة تصل إلى 77.8% مقارنة بالنماذج ذات دقة 16-بت، مع تسريع استنتاجات GPU المحمولة. كما تؤكد Tether على إمكانيات التطبيق مثل التعلم الفيدرالي، وتقليل الاعتماد على السحابة.

يعكس هذا التحرك اتجاه شركات العملات الرقمية لتوسيع نشاطها في مجال الذكاء الاصطناعي والبنية التحتية للحوسبة، بالتوازي مع تطور وكلاء الذكاء الاصطناعي في القطاع.