Nakabawas ang NVIDIA Rubin Ultra sa 8-Hi dahil ang gastos sa bandwidth ay naging pangunahing limitasyon

iconKuCoinFlash
I-share
AI summary iconSummary
Binawasan ni NVIDIA ang HBM sa Rubin Ultra sa 8-Hi, na nagpapaliwanag na ang pagtaas ng gastos sa bandwidth bawat yunit ay isang pangunahing salik. Ang pagbabago ay bumababa ng paggamit ng DRAM die ng isang kalahati, na nagpapalakas sa suplay ng HBM habang pinapanatili o pinapataas ang kabuuang bandwidth. Maaaring makakita ang mga altcoin na dapat tandaan ng isang bullish na trend habang ang disenyo ng AI chip ay umuunlad patungo sa pagiging epektibo sa bandwidth. Mas mahalaga na ngayon ang power at mga limitasyon sa gastos kaysa sa raw na kapasidad ng HBM.
ME AI mensahe, sinabi ng SemiAnalysis na inbaba ng NVIDIA ang HBM ng Rubin Ultra mula sa 12-Hi patungo sa 8-Hi, at ang pangunahing dahilan ay hindi lamang ang pagbaba ng kapasidad, kundi ang katotohanang ang tunay na limitasyon sa kasalukuyang AI inference ay ang gastos bawat yunit ng bandwidth ($/bandwidth), hindi ang gastos bawat yunit ng kapasidad ($/capacity). Ang bilang ng mga layer sa HBM stack ang pangunahing nagtatakda ng kapasidad, samantalang ang kabuuang bandwidth ay mas nakadepende sa bilang ng HBM stack, lapad ng interface, at bilis ng transmisyon. Kaya, ang pagbaba mula sa 12-Hi patungo sa 8-Hi ay maaaring bawasan ng halos 1⁄3 ang dami ng DRAM die na ginagamit, na nagpapalakas sa presyur sa suplay ng HBM na kasalukuyang kakaunti at mahal, habang nananatili pa rin o kaya’y pinapababa ang kabuuang bandwidth sa pamamagitan ng pagpanatili ng bilang ng stack at konfigurasyon ng interface. Ibig sabihin nito na aktibong hinahanap ng NVIDIA ang mas mababang HBM kapasidad upang makamit ang mas mataas na ekonomiya ng bandwidth. Para sa mga AI workload na patuloy na naging mas nakatuon sa inference, hindi lamang kailangan ng mga modelong “makapag-imbak ng higit pang data,” kundi kailangan din nila ang patuloy at mabilis na paghahatid ng model weights at KV Cache, kaya’t ang kahalagahan ng memory bandwidth ay patuloy na tumataas. Ang pagbabago sa Rubin Ultra ay nagpapakita na ang lohika ng pakikidigma sa HBM ay nagbabago: hindi na hinahanap ng AI chip ang pagsisikap na pataasin lamang ang HBM kapasidad, kundi ang pagkuha ng pinakamataas na epektibong bandwidth sa loob ng limitadong DRAM, power, at gastos. Ang pangunahing hadlang sa HBM ay nagbabago mula sa “sapat ba ang kapasidad” patungo sa “ilan piso ng bandwidth ang mabibili bawat dolyar.”
Disclaimer: Ang information sa page na ito ay maaaring nakuha mula sa mga third party at hindi necessary na nagre-reflect sa mga pananaw o opinyon ng KuCoin. Ibinigay ang content na ito para sa mga pangkalahatang informational purpose lang, nang walang anumang representation o warranty ng anumang uri, at hindi rin ito dapat ipakahulugan bilang financial o investment advice. Hindi mananagot ang KuCoin para sa anumang error o omission, o para sa anumang outcome na magreresulta mula sa paggamit ng information na ito. Maaaring maging risky ang mga investment sa mga digital asset. Pakisuri nang maigi ang mga risk ng isang produkto at ang risk tolerance mo batay sa iyong sariling kalagayang pinansyal. Para sa higit pang information, mag-refer sa aming Terms ng Paggamit at Disclosure ng Risk.