จัดเรียงโดย Jinshi Data
NVIDIA (NVDA.O) เปิดตัวแพลตฟอร์ม NVIDIA DSX ในการประชุม NVIDIA GTC Taipei ที่ไทเป ประเทศไต้หวัน เพื่อขยายการดำเนินงานไปสู่ภาคโครงสร้างพื้นฐานของโรงงาน AI
ต่างจากในอดีตที่เน้นการขาย GPU DSX พยายามเสนอโซลูชันโรงงาน AI แบบครบวงจรให้กับธุรกิจ ตั้งแต่การออกแบบ การจำลอง การปรับใช้ ไปจนถึงการดำเนินงานและการจัดการ
เมื่อขนาดของโมเดล AI ขยายตัวอย่างต่อเนื่อง ความท้าทายที่ศูนย์ข้อมูลต้องเผชิญไม่ได้จำกัดอยู่ที่ประสิทธิภาพของชิปเท่านั้น แต่ยังรวมถึงการจัดหาพลังงาน ความสามารถในการระบายความร้อน การจัดสรรทรัพยากร และประสิทธิภาพการดำเนินงานโดยรวม NVIDIA เชื่อว่าตัวชี้วัดหลักของการแข่งขันในอุตสาหกรรม AI ในอนาคตจะค่อยๆ เปลี่ยนจากประสิทธิภาพของชิปแต่ละตัวไปสู่ประสิทธิภาพของโครงสร้างพื้นฐานโดยรวม นั่นคือวิธีการผลิตพลังการคำนวณและบริการปัญญาประดิษฐ์ให้มากขึ้นภายใต้ข้อจำกัดของพลังงาน พื้นที่ และทรัพยากรที่มีอยู่
เพื่อวัตถุประสงค์นี้ แพลตฟอร์ม DSX รวมรวมชิป ระบบ ซอฟต์แวร์ สถาปัตยกรรมอ้างอิง และเทคโนโลยีจากพันธมิตรของ NVIDIA เพื่อครอบคลุมวงจรชีวิตทั้งหมดของการสร้างและดำเนินงานโรงงาน AI แพลตฟอร์มนี้ช่วยให้ลูกค้าเพิ่มความเร็วในการปรับใช้ ความน่าเชื่อถือ และประสิทธิภาพการดำเนินงาน พร้อมลดต้นทุนการสร้าง Token ในกระบวนการอนุมาน AI โดยการรวมเทคโนโลยีต่างๆ เช่น การคำนวณ ซอฟต์แวร์ และโครงสร้างพื้นฐานเข้าด้วยกัน
ฮวง เหรินซวีกล่าวว่า:
เราไม่ได้แค่จัดส่งชิป—เราให้ระบบแนวทางแบบครบวงจรแก่ผู้สร้างโครงสร้างพื้นฐานทุกคนในการสร้างโรงงาน AI ด้วยแพลตฟอร์ม DSX คุณสามารถจำลองโรงงานทั้งหมดโดยไม่ต้องใช้เงินเลย ตรวจสอบประสิทธิภาพก่อนติดตั้งแร็คแรก และดำเนินการด้วยความน่าเชื่อถือที่จำเป็นสำหรับ AI ระดับการผลิต
ซอฟต์แวร์ที่เปิดตัวในครั้งนี้ประกอบด้วย DSX MaxLPS และ DSX OS เป็นหลัก
ในจำนวนนี้ DSX MaxLPS ใช้เทคโนโลยีการระบายความร้อนด้วยของเหลวที่อุณหภูมิ 45 องศาเซลเซียสและการปรับปรุงการใช้พลังงานระดับชั้นวาง เพื่อเพิ่มปริมาณ Token ที่ผลิตได้ต่อหนึ่งเมกะวัตต์ของพลังงาน นิวเดียระบุว่า เทคโนโลยีนี้สามารถติดตั้ง GPU เพิ่มเติมได้สูงสุด 40% โดยมีผลกระทบต่อประสิทธิภาพน้อยมาก ซึ่งช่วยลดต้นทุนการคำนวณเพิ่มเติมภายใต้งบประมาณพลังงานที่กำหนด
DSX OS เป็นแพลตฟอร์มซอฟต์แวร์แบบเปิดแหล่งที่มาสำหรับการดำเนินงานโรงงาน AI รองรับฟังก์ชันต่างๆ เช่น การจัดการวงจรชีวิต การจัดตารางอัจฉริยะ การตรวจสอบสุขภาพอัตโนมัติ การดำเนินงานแบบหลายผู้ใช้ และบริการแพลตฟอร์ม NVIDIA จะเปิดแหล่งที่มาของไลบรารีซอฟต์แวร์แบบโมดูลาร์ API การออกแบบอ้างอิง และแพลตฟอร์มการคำนวณที่เร่งความเร็ว เพื่อสร้างสถาปัตยกรรมซอฟต์แวร์ที่เป็นเอกภาพ
นอกจากซอฟต์แวร์หลักแล้ว DSX ยังรวมความสามารถที่มีอยู่แล้วหลายด้านไว้ด้วยกัน DSX Reference Design ให้สถาปัตยกรรมอ้างอิงที่ครอบคลุมระบบการประมวลผล ระบบเครือข่าย ระบบจัดเก็บข้อมูล ระบบจ่ายไฟและระบบระบายความร้อน DSX Sim รองรับการจำลองและปรับปรุงแบบดิจิทัลทวินตั้งแต่ขั้นตอนการวางแผนจนถึงการดำเนินงาน DSX Flex สามารถปรับโหลดงานแบบไดนามิกตามภาระของกริดไฟฟ้าและราคาไฟฟ้า DSX Exchange ช่วยให้เกิดการประสานข้อมูลระหว่างระบบการประมวลผล ระบบเครือข่าย ระบบพลังงานและระบบระบายความร้อน
ในด้านการประยุกต์ใช้งานเชิงพาณิชย์ ผู้ให้บริการคลาวด์อย่าง CoreWeave, Crusoe, IREN และ Lambda ได้ติดตั้งส่วนประกอบหลักของ DSX เพื่อเพิ่มประสิทธิภาพการใช้งาน GPU และลดระยะเวลาในการเปิดตัวบริการคลาวด์ AI
ระบบนิเวศฮาร์ดแวร์กำลังขยายตัวพร้อมกัน บริษัทต่างๆ เช่น Dell Technologies (DELL.N), Hewlett Packard Enterprise (HPE.N), Lenovo (0992.HK), Supermicro (SMCI.O), ASUS, Foxconn, Gigabyte, Pegatron และ Quanta Cloud Technology กำลังพัฒนาระบบที่รองรับ NVIDIA DSX เพื่อช่วยให้ลูกค้าสร้างโรงงาน AI แบบครบวงจร
ในขณะเดียวกัน DSX Flex ได้เริ่มโครงการทดลองเชิงพาณิชย์ร่วมกับ Emerald AI และ Silicon Valley Power เพื่อยืนยันความสามารถของ AI Factory ในการปรับการใช้พลังงานตามความต้องการของโครงข่ายไฟฟ้า
ในเชิงกลยุทธ์ DSX แสดงให้เห็นถึงการเปลี่ยนผ่านของ NVIDIA จากผู้จัดหาชิป AI สู่ผู้ให้บริการแพลตฟอร์มโครงสร้างพื้นฐาน AI โดยการรวมชิป ซอฟต์แวร์ สถาปัตยกรรมศูนย์ข้อมูล การจัดการการดำเนินงาน และการจัดสรรพลังงานเข้าเป็นระบบเดียว NVIDIA มุ่งหวังที่จะสร้างมาตรฐานอุตสาหกรรมสำหรับวงจรชีวิตเต็มรูปแบบของโรงงาน AI และเสริมตำแหน่งผู้นำในตลาดโครงสร้างพื้นฐาน AI ทั่วโลก