SemiAnalysis: قد يكون TTFT مبالغًا في تقديره؛ فقط 10-20% من مهام الاستدلال محدودة بزمن الاستجابة

2026-07-06 14:30:56

وفقًا لـ SemiAnalysis، قد يركز السوق بشكل مفرط على وقت الوصول إلى أول رمز (TTFT) في استدلال نماذج اللغة الكبيرة. تشير الأبحاث إلى أن تحسين نظام الاستدلال لا يقتصر على تقليل زمن الاستجابة، بل يتعلق بموازنة سرعة التفاعل الفردي للمستخدم (tok/s/user) مقابل كفاءة الإنتاجية الإجمالية (tok/s/GPU). وتقدر شركة SemiAnalysis أن 10–20٪ فقط من مهام الاستدلال مقيدة حقًا بزمن الاستجابة، بينما تعطي معظم السيناريوهات الأولوية للإنتاجية وكفاءة التكلفة. وسرعة توليد الرموز أثناء مرحلة التوليد، وليس TTFT، هي المتغير الرئيسي للأداء.

عرض المصدر

إخلاء المسؤولية: قد تكون المعلومات الواردة في هذه الصفحة مستمدة من مصادر خارجية وهي للمرجعية فقط. لا تمثل هذه المعلومات آراء أو وجهات نظر Gate ولا تشكل أي نصيحة مالية أو استثمارية أو قانونية. ينطوي تداول الأصول الافتراضية على مخاطر عالية. يرجى عدم الاعتماد حصرياً على المعلومات الواردة في هذه الصفحة عند اتخاذ القرارات. لمزيد من التفاصيل، يرجى الرجوع على إخلاء المسؤولية.

أخبار ذات صلة

منذ 1 س

جولدمان ساكس: نماذج العالم قد تدفع الطلب على البنية التحتية الجديدة للذكاء الاصطناعي إلى جانب نماذج اللغة الكبيرة

منذ 4 س

Morgan Stanley, UBS يختلفان على استثمار الذكاء الاصطناعي: عمالقة الحوسبة السحابية مقابل قيمة البنية التحتية، نمو أرباح بنسبة 600% متوقع

منذ 8 س

إنفاق توكنات AI ينخفض بنسبة 20% منذ ذروة مايو؛ فجوة الاستثمار إلى المبيعات تتسع إلى 46%

07-05 14:13

مورغان ستانلي يكشف عن عشر حقائق استثمارية للذكاء الاصطناعي، يعيد تشكيل الاقتصاد العالمي

07-05 10:16

انخفض مؤشر إنفاق رموز الذكاء الاصطناعي بنسبة 20% منذ مايو، والشركات تفقد قوة التسعير

تحليل متعمق