كشفت NVIDIA عن تفاصيل تكلفة Blackwell: يتضاعف سعر وحدة المعالجة الرسومية، وينخفض تكلفة الرمز بنسبة 35 مرة

رسالة AIMPACT، 30 أبريل (UTC+8)، وفقًا لمراقبة Beating، نشرت نيفيديا مدونة تحليلية حول اختيار البنية التحتية للاستدلال، وخلاصة حجتها الأساسية: يجب تقييم البنية التحتية للاستدلال بناءً على "التكلفة لكل توكين" وليس "التكلفة لكل وحدة GPU في الساعة". من حيث سعر وحدة GPU، فإن Blackwell أغلى؛但从 تكلفة التوكين، فإن Blackwell تتفوق بفارق كبير على الجيل السابق. استخدمت المدونة نموذج DeepSeek-R1 (نموذج استدلال MoE) كموضوع اختبار، وقارنت بين Blackwell (GB300 NVL72) والجيل السابق Hopper (HGX H200). وفقًا لأسعار الإيجار في السوق السحابية، فإن تكلفة Blackwell هي 2.65 دولار لكل GPU في الساعة، وهي أقرب إلى ضعف تكلفة Hopper البالغة 1.41 دولار، لكن إنتاج التوكينات لكل وحدة GPU في الثانية ارتفع من 90 إلى 6000، مما يُحسن السعة 65 مرة، مما يؤدي إلى خفض تكلفة كل مليون توكين من 4.20 دولار إلى 0.12 دولار. كما ارتفع إنتاج التوكينات لكل ميغاواط 50 مرة. يجب ملاحظة الافتراضات الأساسية: يعتمد الرقم 0.12 دولار على تشغيل جميع تحسينات البرمجيات، بما في ذلك الاستدلال منخفض الدقة FP4 وMTP (التنبؤ المتعدد بالتوكينات، والذي يسمح للنموذج بإنتاج عدة توكينات في وقت واحد لتسريع الأداء). تُظهر البيانات الأصلية من SemiAnalysis InferenceX v2 أن نفس GB300 NVL72 عند تشغيل DeepSeek-R1 دون MTP تكلف حوالي 2.35 دولار لكل مليون توكين، بينما تنخفض إلى حوالي 0.11 دولار عند تشغيل MTP، مما يعني أن هذا التحسين وحده يخلق فرقًا قدره 21 مرة. جميع هذه النتائج مبنية على اختبار نموذج واحد فقط وهو DeepSeek-R1، وقد تختلف الأرقام حسب هندسة وحجم النموذج. (المصدر: BlockBeats)