فيتالیک يقترح توحيد أجهزة الذكاء الاصطناعي المحلي (LLM) حول فئة ذاكرة 96GB

ETH‎-4.16%
وفقاً لـ PANews، في 28 مايو، اقترح مؤسس إيثريوم المشارك فيتاليك بوتيرين أن عمليات نشر نماذج اللغات الكبيرة (LLM) محلياً ينبغي أن توحَّد حول إعدادات ذاكرة محددة، مع تحديد 96GB كحد أقصى عملي واحد للأجهزة الحالية. وأشار بوتيرين إلى وحدة معالجة الرسوميات RTX 6000 بسعة 96GB من ذاكرة الوصول العشوائي للرسوميات (VRAM)، وإلى أجهزة ماك بوك عالية الفئة مزودة بذاكرة موحدة بسعة 128GB كنقاط مرجعية، ملاحظاً أنه ينبغي حجز نحو 32GB للمهام الأخرى الخاصة بالنظام. واقترح أن يعتمد النظام البيئي فئات سعة موحَّدة—2GB و8GB و24GB و96GB و256GB و1TB—لتحسين كفاءة النشر والتوافق عبر المنصات لكل من تصميم نماذج LLM وتصميم عتاد وحدات معالجة الرسوميات (GPU).
إخلاء المسؤولية: قد تكون المعلومات الواردة في هذه الصفحة مستمدة من مصادر خارجية وهي للمرجعية فقط. لا تمثل هذه المعلومات آراء أو وجهات نظر Gate ولا تشكل أي نصيحة مالية أو استثمارية أو قانونية. ينطوي تداول الأصول الافتراضية على مخاطر عالية. يرجى عدم الاعتماد حصرياً على المعلومات الواردة في هذه الصفحة عند اتخاذ القرارات. لمزيد من التفاصيل، يرجى الرجوع على إخلاء المسؤولية.
تعليق
0/400
لا توجد تعليقات