สื่อต่างประเทศระบุว่า ต้นทุนการใช้งานโมเดล AI อาจยังคงลดลงในช่วงครึ่งหลังของปีนี้ โดยมีเหตุผลหลักคือโครงสร้างพื้นฐานรุ่นใหม่เริ่มเปิดใช้งานอย่างกว้างขวาง พร้อมกับที่ระบบ Nvidia Blackwell เข้าสู่ระยะการติดตั้งในปริมาณใหญ่ ต้นทุนต่อหน่วยในการฝึกฝนและการอนุมานของโมเดลกำลังลดลง ทำให้ผู้ให้บริการ AI มีพื้นที่ในการลดราคา token มากขึ้น
Blackwell เริ่มเปิดใช้งานในปริมาณใหญ่
บทความระบุว่า ปัจจัยหลักที่ขับเคลื่อนต้นทุนให้ลดลงในขณะนี้คือศูนย์ข้อมูล AI ที่กำลังติดตั้งระบบ Blackwell จำนวนมาก ภายในช่วงครึ่งหลังของปีนี้ ระบบเหล่านี้จะค่อยๆ ขยายขนาดเพื่อใช้ในการฝึกโมเดลใหม่และรับภาระงานการอนุมานเพิ่มเติม
การติดตั้ง Blackwell ซับซ้อนกว่าแพลตฟอร์มรุ่นก่อนหน้า Hopper ระบบที่เกี่ยวข้องต้องการการกำหนดค่าศูนย์ข้อมูลใหม่ เช่น การระบายความร้อนด้วยของเหลว จึงใช้เวลาในการติดตั้งนานกว่า แต่เมื่อเสร็จสิ้นการเปิดใช้งานแล้ว ประสิทธิภาพที่เพิ่มขึ้นอาจชัดเจนมาก
ผลผลิตต่อหน่วยเพิ่มขึ้นอย่างชัดเจน
สถาบันวิจัย SemiAnalysis ได้เปรียบเทียบระบบ Blackwell รุ่นสูงสุดของ Nvidia คือ GB300 NVL72 กับระบบ Hopper HGX 200 รุ่นก่อนหน้า ตามผลการทดสอบของพวกเขา ระบบเก่าสามารถสร้าง token ได้ 90 ตัวต่อวินาทีต่อ GPU หนึ่งตัว ในขณะที่ระบบใหม่สามารถสร้างได้ถึง 6,000 ตัว เพิ่มขึ้นประมาณ 65 เท่า
เมื่อคำนวณตามจำนวนโทเค็นที่ผลิตต่อพลังงานหนึ่งเมกะวัตต์ Hopper อยู่ที่ 54,000 ต่อวินาที ในขณะที่ Blackwell อยู่ที่ 2.8 ล้านต่อวินาที เพิ่มขึ้นประมาณ 50 เท่า บทความระบุว่า ในบริบทที่ต้นทุนพลังงานเพิ่มสูงขึ้น ตัวชี้วัดนี้มีความสำคัญเป็นพิเศษสำหรับศูนย์ข้อมูล AI
- GB300 NVL72: ประมาณ 6,000 โทเค็นต่อวินาที
- Hopper HGX 200: ประมาณ 90 โทเค็นต่อวินาที
- การผลิตโทเค็นต่อเมกะวัตต์: เพิ่มขึ้นประมาณ 50 เท่า
ต้นทุนต่อหนึ่งล้านโทเค็นลดลงเหลือ 12 เซนต์
SemiAnalysis ยังเปรียบเทียบต้นทุนในการสร้าง token 1 ล้านตัว ผลการทดสอบแสดงว่าต้นทุนของระบบ Hopper อยู่ที่ประมาณ 4.20 ดอลลาร์สหรัฐ ในขณะที่ระบบ Blackwell อยู่ที่ประมาณ 0.12 ดอลลาร์สหรัฐ ลดลงประมาณ 35 เท่า
จากบทความนี้ คาดว่าปริมาณโทเค็นต้นทุนต่ำจะยังคงเพิ่มขึ้นเรื่อยๆ เนื่องจากโมเดลใหม่ๆ จำนวนมากขึ้นจะเริ่มใช้แพลตฟอร์ม Blackwell สำหรับการฝึกฝนและการดำเนินงาน ผู้ให้บริการโมเดลลดราคาไม่เพียงเพราะแรงกดดันจากการแข่งขัน แต่ยังเพราะต้นทุนพลังการประมวลผลพื้นฐานกำลังลดลง
ซาม อัลต์แมน ซีอีโอของ OpenAI ยังได้กล่าวเมื่อเร็วๆ นี้ว่า ต้นทุนของ AI ได้กลายเป็นปัญหาสำคัญ และระบุว่าบริษัทจะมองหาวิธีเพิ่มเติมเพื่อให้ผู้ใช้ได้รับคุณค่าที่สูงขึ้นด้วยค่าใช้จ่ายที่ต่ำกว่า
สัญญาณการลดราคาเริ่มปรากฏขึ้น
บทความยังอ้างถึงดัชนีการใช้โทเค็นจาก Silon Data ซึ่งอยู่ที่ประมาณ 2.06 ในปลายเดือนพฤษภาคม และลดลงเหลือ 1.75 ภายในวันที่ 10 มิถุนายน คาร์เมน ลี่ ซีอีโอของ Silon Data มองว่า สิ่งนี้อาจบ่งชี้ว่าราคาโทเค็นของโมเดล AI หลายตัวเริ่มลดลง
บทความระบุว่า หากแนวโน้มนี้ยังคงดำเนินต่อไป ความสนใจของตลาดต่อ “การบริโภคโทเค็น” อาจเปลี่ยนจากแนวทางการลดการใช้งาน เป็นการขยายขนาดการใช้งานในต้นทุนที่ต่ำกว่า