ข่าวจาก ME News เมื่อวันที่ 27 สิงหาคม (UTC+8) NVIDIA เปิดตัวเทคโนโลยี NVHBM สำหรับโครงสร้างพื้นฐาน AI รุ่นถัดไป NVHBM เป็นชิป HBM แบบกำหนดเองที่ออกแบบและยืนยันร่วมกับผู้ผลิตชิปหน่วยความจำหลัก โดยจะถูกส่งมอบผ่าน NVLink Fusion ให้กับผู้ให้บริการคลาวด์ขนาดใหญ่และบริษัท AI แบบเนื้อแท้ที่พัฒนา AI Accelerator แบบกำหนดเอง (XPU) เมื่อเทียบกับ HBM4e มาตรฐาน NVHBM สามารถเพิ่มแบนด์วิดธ์หน่วยความจำได้สูงสุด 30% ต่อชั้น ลดการใช้พลังงานของ HBM ได้สูงสุด 15% และปลดปล่อยพื้นที่ชิปการคำนวณได้สูงสุด 25% สำหรับ XPU NVIDIA ระบุว่าการปรับปรุงเหล่านี้ช่วยให้ accelerator แบบกำหนดเองสามารถรองรับโมเดล AI ขนาดใหญ่ขึ้น อ่าน KV cache ได้เร็วขึ้น และเพิ่มประสิทธิภาพในการฝึกอบรมและการประมวลผลแบบอินเฟอร์เรนซ์ขนาดใหญ่ NVHBM ปรับปรุงอินเทอร์เฟซหน่วยความจำทางกายภาพโดยย้ายตัวควบคุมหน่วยความจำเข้าไปอยู่ภายในชั้น HBM 3D และรวม PHY แบบกำหนดเองเข้าด้วยกัน ทำให้พื้นที่ PHY และพื้นที่ที่เกี่ยวข้องลดลงได้สูงสุด 67% และลดความซับซ้อนของการเดินสายบนตัวกลาง พื้นที่ชิปที่ปลดปล่อยออกมาสามารถใช้เพิ่มแมทริกซ์เอ็นจิน แคช เครือข่าย และฟังก์ชันอื่นๆ ที่ออกแบบมาเฉพาะสำหรับงานโหลดเฉพาะ ในระดับแร็ก NVLink Fusion chiplet เชื่อมต่อ XPU แบบกำหนดเองเข้ากับเครือข่าย NVLink และเชื่อมต่อ CPU ผ่าน NVLink-C2C NVIDIA ระบุว่าเมื่อรวม NVHBM กับ NVLink Fusion เข้าด้วยกัน ประสิทธิภาพแบบ end-to-end ของแต่ละ XPU จะเพิ่มขึ้นประมาณ 30% และอนุญาตให้ XPU แบบกำหนดเองสามารถรวมเข้ากับ GPU ของ NVIDIA เพื่อสร้างระบบการคำนวณแบบไฮบริด ยังไม่มีการเปิดเผยเวลาเชิงพาณิชย์อย่างเป็นทางการในบทความนี้ (ที่มา: BlockBeats)
NVIDIA เปิดตัวเทคโนโลยีหน่วยความจำ NVHBM ที่มีแบนด์วิดธ์สูงขึ้น 30% และการใช้พลังงานต่ำลง 15%
KuCoinFlashแชร์
สรุป
NVIDIA เปิดตัวเทคโนโลยีหน่วยความจำ NVHBM สำหรับโครงสร้างพื้นฐานด้าน AI เมื่อวันที่ 27 สิงหาคม พร้อมให้แบนด์วิดธ์สูงขึ้น 30% และใช้พลังงานต่ำลง 15% เมื่อเทียบกับ HBM4e เทคโนโลยีนี้ ซึ่งพัฒนาขึ้นร่วมกับผู้ผลิตหน่วยความจำรายใหญ่ ช่วยลดพื้นที่ไดย์ XPU ลง 25% และลดพื้นที่ PHY ลง 67% โดยรองรับระบบนิเวศข่าว AI + crypto ผ่านการเปิดพื้นที่เพิ่มเติมสำหรับแมทริกซ์เอนจินและตัวเร่งความเร็วแบบกำหนดเอง เมื่อใช้ร่วมกับ NVLink Fusion จะเพิ่มประสิทธิภาพ XPU ขึ้น 30% และทำงานร่วมกับ GPU ของ NVIDIA การเปิดตัวนี้มุ่งเป้าไปที่ผู้ให้บริการระดับไฮเพอร์สเกลและบริษัทที่เน้น AI โดยยังไม่มีข้อมูลกำหนดเวลาการเชิงพาณิชย์บนโซ่
แหล่งที่มา:แสดงต้นฉบับ
คำปฏิเสธความรับผิดชอบ: ข้อมูลในหน้านี้อาจได้รับจากบุคคลที่สาม และไม่จำเป็นต้องสะท้อนถึงมุมมองหรือความคิดเห็นของ KuCoin เนื้อหานี้จัดทำขึ้นเพื่อวัตถุประสงค์ในการให้ข้อมูลทั่วไปเท่านั้น โดยไม่มีการรับรองหรือการรับประกัน และจะไม่ถูกตีความว่าเป็นคำแนะนำทางการเงินหรือการลงทุน KuCoin จะไม่รับผิดชอบต่อความผิดพลาดหรือการละเว้นในเนื้อหา หรือผลลัพธ์ใดๆ ที่เกิดจากการใช้ข้อมูลนี้
การลงทุนในสินทรัพย์ดิจิทัลอาจมีความเสี่ยง โปรดประเมินความเสี่ยงของผลิตภัณฑ์และความเสี่ยงที่คุณยอมรับได้อย่างรอบคอบตามสถานการณ์ทางการเงินของคุณเอง โปรดดูข้อมูลเพิ่มเติมได้ที่ข้อกำหนดการใช้งานและเอกสารเปิดเผยข้อมูลความเสี่ยงของเรา