เมื่อขนาดของศูนย์ข้อมูล AI ยังคงขยายตัว ความสนใจของตลาดต่อแนวป้องกันของ NVIDIA ก็เปลี่ยนไป TechCrunch รายงานว่า ก่อนหน้านี้นักลงทุนให้ความสำคัญกับการที่ชิปที่พัฒนาเองโดยผู้ให้บริการคลาวด์อาจลดทอนตำแหน่งของ GPU แต่หลังจาก财报ล่าสุด ตลาดเริ่มหันความสนใจไปที่คำถามอีกข้อหนึ่ง: ใครจะสามารถทำให้ระบบ AI ทั้งชุดทำงานได้อย่างมีประสิทธิภาพ
จุดสนใจของการแข่งขันเปลี่ยนไปสู่ระบบ
บทความระบุว่า การติดตั้งพลังงานการประมวลผล AI กำลังเคลื่อนตัวไปสู่พลังงานที่สูงขึ้นและคลัสเตอร์ที่ใหญ่ขึ้น การพิจารณาเฉพาะ GPU ไม่เพียงพอที่จะอธิบายโครงสร้างการแข่งขัน ยิ่งศูนย์ข้อมูลมีขนาดใหญ่เท่าใด ความร่วมมือระหว่างข้อมูล การจัดเก็บ โครงข่าย และการประมวลผลก็ยิ่งซับซ้อนมากขึ้น GPU ยังคงเป็นชิ้นส่วนหลัก แต่ความสามารถของระบบภายนอก GPU กำลังกลายเป็นปัจจัยที่กำหนดประสิทธิภาพมากขึ้น
นี่คือแก่นหลักของการเปลี่ยนแปลงเรื่องเล่าของ NVIDIA ในปัจจุบัน แม้ว่าผู้ผลิตคลาวด์รายใหญ่เช่น Amazon และ Google จะยังคงพัฒนาชิปของตนเองอย่างต่อเนื่อง NVIDIA ยังคงสร้างชุดโครงสร้างพื้นฐานที่สมบูรณ์รอบๆ GPU บทความสรุปว่า: หาก GPU เป็นเครื่องยนต์ ระบบอื่นๆ ก็คือรถยนต์ทั้งคัน
Vera Rubin ครอบคลุมมากขึ้น
TechCrunch ระบุว่า NVIDIA กำลังขับเคลื่อนสถาปัตยกรรม Vera Rubin สถาปัตยกรรมนี้ไม่ได้ประกอบด้วยเฉพาะ Rubin GPU เท่านั้น แต่ยังรวมถึง Vera CPU รวมถึงระบบระดับชั้นวางที่ออกแบบมาสำหรับการจัดเก็บข้อมูลและเครือข่าย เป็นต้น บทความระบุว่า ความหมายของผลิตภัณฑ์เหล่านี้คือ พวกมันไม่ได้รับผิดชอบโดยตรงในการสร้าง token แต่พยายามลดการสูญเสียประสิทธิภาพที่เกิดขึ้นนอกเหนือจาก GPU
ในจำนวนนี้ Vera CPU ถูกอธิบายว่าเป็นส่วนสำคัญในการจัดการข้อมูล แจสัน ฮาร์ดี้ รองประธานฝ่ายเทคโนโลยีการจัดเก็บข้อมูลของ NVIDIA กล่าวว่า หน่วยประมวลผลหนึ่งเครื่องหรือแพลตฟอร์มการประมวลผลหนึ่งแห่งมีขีดจำกัดในการรองรับหน่วยความจำ ดังนั้นการส่งข้อมูลไปยัง GPU ที่เวลาที่เหมาะสมจึงกลายเป็นปัจจัยสำคัญต่อประสิทธิภาพของระบบ
ข้อมูลกลายเป็นสนามรบใหม่
บทความอ้างถึงคำพูดของ Hardy ว่า ในบางการดำเนินการที่เกี่ยวข้อง ความเร็วที่ Vera CPU ให้สามารถเพิ่มขึ้นได้ประมาณ 3 เท่า ซึ่งหมายความว่าทรัพยากรฮาร์ดแวร์เช่นแฟลชเมมโมรีสามารถใช้งานได้อย่างมีประสิทธิภาพมากขึ้น และจุดคอขวดของระบบก็มีโอกาสลดลง
บทความยังระบุว่าปัญหาลักษณะนี้ไม่ได้มีอยู่เฉพาะในระบบของ NVIDIA เท่านั้น เมื่อ OpenAI แนะนำชิป Jalapeño มาก่อนหน้านี้ ก็ได้ระบุการลดการเคลื่อนย้ายข้อมูลและการหน่วงเวลาในการสื่อสารเป็นเป้าหมายหลัก โดยมีแนวคิดในการรักษาภาระงานทั้งหมดให้อยู่ภายในระบบเชื่อมต่อเดียว เพื่อลดการสูญเสียที่เกิดจากการถ่ายโอนข้ามโมดูล
ตามมุมมองของ TechCrunch สิ่งนี้แสดงว่าการแข่งขันในโครงสร้างพื้นฐาน AI กำลังเข้าสู่ระยะใหม่ บริษัทต่างๆ ไม่ได้แข่งขันกันแค่เรื่องกำลังการประมวลผลของโปรเซสเซอร์อีกต่อไป แต่รวมถึงข้อมูลจะไหลเวียนอย่างไร การจัดเก็บข้อมูลจะรองรับอย่างไร และเครือข่ายจะหลีกเลี่ยงการอุดตันได้อย่างไร พูดอีกแบบคือ ระดับการแข่งขันกำลังเปลี่ยนจาก “ใครมี GPU ที่แรงกว่า” เป็น “ใครสามารถทำให้ระบบทั้งหมดทำงานได้มีประสิทธิภาพสูงกว่า”
บทความระบุว่า การเปลี่ยนแปลงนี้ไม่ได้หมายความว่านิวเดียได้รับชัยชนะไปแล้ว ยังคงต้องเผชิญกับการแข่งขันจากผู้ผลิตชิปรายอื่นและผู้ให้บริการคลาวด์รายใหญ่ แต่ในขั้นตอนปัจจุบัน นิวเดียยังคงนำหน้าในด้านการรวมระบบและความสามารถในการจัดการ ซึ่งเป็นเหตุผลสำคัญที่ตลาดกำลังทบทวนข้อได้เปรียบด้าน AI ของตนอีกครั้ง