تكلفة NVIDIA H100 تصل إلى 40,000 دولار. بينما تكلف بطاقة الألعاب RTX 5090 حوالي 2,000 دولار.
لتشغيل الذكاء الاصطناعي فعليًا، كم من هذا الفرق البالغ 15 مرة هو فرق حقيقي؟
أقل مما تتخيل، بالنسبة لمعظم الأشخاص.
أي مهمة تتناسب في 32 جيجابايت (نماذج حتى حوالي 13 مليار بدقة كاملة، أو 32 مليار مُكمّمة) — فإن بطاقة 5090 بسعر 2,000 دولار هي الأفضل من حيث الأداء لكل دولار يمكنك شراؤه. لا يوجد منافس قريب. هل تريد ضبط نموذج صغير؟ تشغيل يستهلك حوالي 2 دولار من الكهرباء على بطاقة 5090 تملكها سيكلف حوالي 50 دولارًا لاستئجار وقت H100 المكافئ في السحابة. البطاقة تُغطي تكلفتها خلال عام.
لكن H100 تستحق سعرها فور تجاوزك ثلاث نقاط:
- الذاكرة: نموذج بحجم 70 مليار يحتاج حوالي 40 جيجابايت حتى عند 4 بت. لا تستطيع بطاقة 5090 ذات 32 جيجابايت استيعابه.
- الموثوقية: ذاكرة ECC تلتقط التحولات العشوائية في البتات التي تُفسد عملية تدريب مدتها 48 ساعة دون أن تُلاحظ. بطاقة 5090 لا تمتلكها.
- التوسع: NVLink يربط بين H100s بسرعة 7 مرات أسرع من PCIe. بطاقة 5090 لا تحتوي على NVLink على الإطلاق.
الخطأ المكلف ليس اختيار البطاقة "الأقل جودة". بل هو اختيار البطاقة الخاطئة لمهمتك: دفع مبالغ زائدة مقابل H100 لن تستخدمها بالكامل، أو شراء بطاقة 5090 غير كافية والاصطدام بحاجز لا يمكنك التغلب عليه بالكمية.