موقع وصفات vLLM يكتمل إعادة تصميمه بشكل كبير، ويقدم حلول نشر محسنة للنماذج والأجهزة

أخبار ME، في 22 أبريل (بتوقيت UTC+8)، أعلن مشروع vLLM أن مكتبة تكوينات المجتمع الخاصة به، موقع vLLM Recipes، قد خضعت لإعادة تصميم كبيرة. يهدف الموقع الجديد إلى مساعدة المستخدمين على نشر وتشغيل نماذج اللغة الكبيرة بسرعة، والوظيفة الأساسية الجديدة هي تقديم إجابات قابلة للنقر على الأسئلة مثل “كيفية تشغيل نموذج معين على جهاز معين لإنجاز مهمة معينة”. يعتمد الموقع على نمط روابط مشابه لـ HuggingFace، حيث يمكن للمستخدمين الانتقال مباشرة إلى صفحة الحلول المحسنة عن طريق استبدال جزء النطاق في عنوان URL الخاص بالنموذج. يوفر المنصة أوامر سطر الأوامر \vllm serve\ محسنة لمجموعة متنوعة من النماذج مثل Qwen3.6-35B-A3B، Kimi-K2.6، بالإضافة إلى تحسينات لمختلف أجهزة GPU مثل NVIDIA H100/H200/B200/B300، و AMD MI300X/MI325X/MI355X. يمكن للمستخدمين تصفح الحلول حسب مزودين مثل Arcee AI، Baidu، ByteDance، DeepSeek، Google، Meta، وMicrosoft. تتوافق المنصة تمامًا مع vLLM وتوفر روابط إلى الوثائق الرسمية، مستودع GitHub، وقائمة كاملة لتوافق الأجهزة مع النماذج. (المصدر: InFoQ)