Ang pinakamalulupit na bahagi ng isang AI data center ay maaaring hindi ang mga GPU. Maaari itong ang mga kable. Tingnan ninyo ito. Mga sandaang koneksyon. Mga optical cable na tumatakbo saan-saan. Mga transceiver na puno ng bawat available na port. At talagang ito ang unang bagay na napansin ko. Maaari mong gawin ang pinakamabilis na mga GPU sa mundo... pero kailangan pa rin nilang makipag-ugnayan sa isa’t isa. At kapag ang mga AI model ay nai-spread sa libu-libo ng mga GPU, ang paghahatid ng data sa pagitan nila ay naging malaking problema sa inhenyeriya. Dahil dito, ang modernong AI infrastructure ay kailangan ng espesyalisadong networking. High bandwidth. Low latency. Mabilis na switches. Optical connections. Kailangan lahat na magtrabaho nang magkakasama. Sapagkat kung ang mga GPU ay naghihintay ng data... lahat ng mahal na compute ay nakaupo lang at walang ginagawa. Ito ang bahagi na akala ko ay hindi sapat na binibigyang-pansin ng mga tao. Kapag nagsasalita tayo tungkol sa AI hardware, karaniwan naming sinasabi ang mga GPU. Ngunit ang mga GPU ay only one part ng machine. Ang network ang nagpapalit sa libu-libong hiwalay na processor bilang isang malaking computing system. At habang lumalaki ang AI... lalong mahalaga ang koneksyon na ito. Sa ilang punto, ang pagbuo ng isang AI data center ay nagsisimula nang mukhang hindi tulad ng pagbuo ng isang computer... kundi tulad ng pagbuo ng isang nervous system. Ang mga GPU ay ang utak. Ang network ay lahat ng nag-uugnay sa kanila.
TolikI-share
Source:Ipakita ang original
Disclaimer: Ang information sa page na ito ay maaaring nakuha mula sa mga third party at hindi necessary na nagre-reflect sa mga pananaw o opinyon ng KuCoin. Ibinigay ang content na ito para sa mga pangkalahatang informational purpose lang, nang walang anumang representation o warranty ng anumang uri, at hindi rin ito dapat ipakahulugan bilang financial o investment advice. Hindi mananagot ang KuCoin para sa anumang error o omission, o para sa anumang outcome na magreresulta mula sa paggamit ng information na ito.
Maaaring maging risky ang mga investment sa mga digital asset. Pakisuri nang maigi ang mga risk ng isang produkto at ang risk tolerance mo batay sa iyong sariling kalagayang pinansyal. Para sa higit pang information, mag-refer sa aming Terms ng Paggamit at Disclosure ng Risk.