NVIDIA เปิดเผยรายละเอียดต้นทุนของ Blackwell: ราคา GPU เพิ่มเป็นสองเท่า ต้นทุนโทเค็นลดลง 35 เท่า

ข้อความจาก AIMPACT เมื่อวันที่ 30 เมษายน (UTC+8) ตามการติดตามของ Beating นิเวศน์ได้โพสต์บล็อกวิเคราะห์การเลือกฮาร์ดแวร์สำหรับการประมวลผลแบบอนุมาน โดยสรุปใจความสำคัญหนึ่งประโยค: การประเมินโครงสร้างพื้นฐานสำหรับการอนุมานควรพิจารณาจาก “ต้นทุนต่อโทเค็น” ไม่ใช่ “ต้นทุนต่อ GPU ต่อชั่วโมง” เมื่อเปรียบเทียบด้วยราคา GPU แบบเดียว Blackwell แพงกว่า แต่เมื่อเปรียบเทียบด้วยต้นทุนต่อโทเค็น Blackwell โดดเด่นกว่ารุ่นก่อนหน้าอย่างมาก บล็อกนี้ใช้ DeepSeek-R1 (โมเดลอนุมานแบบ MoE) เป็นตัวทดสอบ โดยเปรียบเทียบ Blackwell (GB300 NVL72) กับรุ่นก่อนหน้า Hopper (HGX H200) โดยอ้างอิงราคาเช่าในตลาดคลาวด์ Blackwell มีต้นทุน 2.65 ดอลลาร์สหรัฐต่อ GPU ต่อชั่วโมง แพงกว่า Hopper ที่ 1.41 ดอลลาร์สหรัฐเกือบสองเท่า แต่ปริมาณโทเค็นที่ผลิตได้ต่อวินาทีต่อ GPU เพิ่มจาก 90 เป็น 6,000 เพิ่มขึ้น 65 เท่า ส่งผลให้ต้นทุนต่อหนึ่งล้านโทเค็นลดลงจาก 4.20 ดอลลาร์สหรัฐเหลือเพียง 0.12 ดอลลาร์สหรัฐ และปริมาณโทเค็นที่ผลิตได้ต่อหนึ่งเมกะวัตต์เพิ่มขึ้น 50 เท่า สิ่งที่ควรสังเกตคือ ตัวเลข 0.12 ดอลลาร์สหรัฐนี้ถูกคำนวณภายใต้เงื่อนไขที่เปิดใช้งานการอนุมานแบบความแม่นยำต่ำ FP4 และ MTP (การคาดการณ์หลายโทเค็นพร้อมกัน เพื่อเร่งความเร็วการสร้างโทเค็นหลายตัวในครั้งเดียว) และการปรับปรุงซอฟต์แวร์อื่นๆ อีกหลายอย่าง ข้อมูลดิบจาก SemiAnalysis InferenceX v2 แสดงว่า หากใช้ GB300 NVL72 เดียวกันในการรัน DeepSeek-R1 โดยไม่เปิด MTP ต้นทุนต่อหนึ่งล้านโทเค็นจะอยู่ที่ประมาณ 2.35 ดอลลาร์สหรัฐ เมื่อเปิด MTP จะลดลงเหลือประมาณ 0.11 ดอลลาร์สหรัฐ การปรับปรุงเพียงอย่างเดียวนี้สร้างความแตกต่างถึง 21 เท่า ผลลัพธ์ทั้งหมดนี้เป็นผลจากการทดสอบโมเดลเดียวคือ DeepSeek-R1 เลขเหล่านี้อาจแตกต่างกันไปตามสถาปัตยกรรมและขนาดของโมเดลอื่นๆ (ที่มา: BlockBeats)