Ipinakilala ng Amazon ang TorchNeuron, isang open-source na kasangkapan na disenyo para jalurin ang PyTorch-based na AI code sa mga Trainium chip ng Amazon na may minimum na pagbabago. Maaaring hanapin ng Amazon ang paraan upang hamunin ang software advantage ng Nvidia sa pamamagitan ng pagbawas sa pangangailangan ng mga developer na i-rewrite ang code. Sabi ng pagpapahayag ng Amazon tungkol sa TorchNeuron, maaaring jalurin ng mga developer ang umiiral na PyTorch code sa Trainium gamit ang isang pagbabago sa konfigurasyon kaysa i-rewrite ang buong mga aplikasyon.
Ang AI advantage ni Nvidia ay lumalawak pa sa mga chip patungo sa CUDA, ang software ecosystem na ginagamit ng mga developer upang bumuo at patakbuhin ang AI workloads. Ang mga developer ay nagpass ng taon sa pagbuo ng workflows sa paligid ng CUDA, gumawa ng switching costs na higit pa sa hardware performance. Ang mga gastos na ito ay nagiging dahilan kung bakit mas mahirap para sa mga kompetitibong chip na tarantulan ang workloads, kahit na ang mga kompetitibong chip ay nag-aalok ng magagandang ekonomiya. Ang TorchNeuron ay tumutukoy sa oras at gastos sa pagpapalit ng software para sa iba’t ibang computing platform. Ang PyTorch ay malawakang ginagamit sa buong AI research at development. Hindi kailangan ng Amazon na palitan agad ang CUDA upang gawing mas mababa ang gastos at oras sa pagsubok ng isang alternatibo.
Ang pagpapalabas ay nagpapatuloy sa pagsisikap ng Amazon na palawakin ang sariling silicon sa pagtatrain at pag-infer ng AI. Ang mga accelerator na Trainium ay nagpapahintulot sa Amazon Web Services (AWS) na magbigay ng computing capacity gamit ang hardware ng Amazon sa halip na mag-asa lamang sa Nvidia GPUs. Ang sariling chip ng Amazon ay nakakakuha ng malalaking customer sa AI, kabilang ang Anthropic, na gumagamit ng Trainium sa computing cluster ng Anthropic na Project Rainier. Ang TorchNeuron ay maaaring gawing accessible ang Trainium sa higit pang mga developer na kung saan ay mananatili sa Nvidia dahil ang pagpapalit ay nangangailangan ng sobrang gawain. Sinabi ng Amazon na higit sa 30 mga early customer mula sa iba’t ibang larangan kabilang ang robotics, voice AI, at world models ay gumagamit ng TorchNeuron. Ang mas malawak na paggamit ay maaaring tumulong sa AWS na makipagkumpetensya sa halaga ng computing at sa kalakasan ng pag-deploy ng AI applications.
Hindi ibig sabihin ng pahayag na ang liderato ni Nvidia ay malalapit nang mawala. Ang CUDA ay isang matatag na ecosystem, at kailangan pa ring patunayan ni Amazon ang kompetitibong performance, reliability, at ekonomiks ng Trainium sa mga hihingin na workload. Gayunpaman, maaaring tumumaas ang kompetisyon kung ang mga developer ay makakapaglipat ng mga application sa pagitan ng mga platform nang mas kaunting pagbabago. Ang mas madaling migration ay magbibigay ng higit pang flexibility sa mga customer ng cloud at posibleng pagsusulong sa bargaining power ni Amazon sa gastos ng AI infrastructure.
Ang pangunahing tanong para sa mga investor ay kung kayang i-convert ni Amazon ang mas madaling pag-migrate ng software sa patuloy na pangangailangan para sa Trainium. Sinisikap ni Amazon na bawasan ang mga hadlang sa software na nagpapanatili sa mga customer na gumagamit ng mga chip ni Nvidia, hindi lamang magbuo ng alternatibong hardware. Ang tagumpay ay maaaring mapigilan ang pangunahing advantage sa software na nagpaprotekta kay Nvidia laban sa kompetisyon.
Ipinakilala ng Amazon ang TorchNeuron para jalohin ang PyTorch code sa mga chip na Trainium
BenzingaI-share
Summary
Ipinakilala ng Amazon ang TorchNeuron, isang open-source na kasangkapan para jalurin ang PyTorch code sa mga Trainium chip gamit ang minimum na pagbabago. Tumutulong ang kasangkapan sa mga developer na maiwasan ang pagsusulit muli ng mga app habang lumilipat mula sa Nvidia’s CUDA. Pwedeng i-run ng TorchNeuron ang mga umiiral na PyTorch models sa Trainium gamit ang isang pag-update ng config lamang, na nagpapababa ng gastos sa paglipat. Ang mga pangunahing AI na kumpanya tulad ng Anthropic ay nagagamit na ang Trainium, at higit sa 30 mga maagang tagapakinig ang nagtataas ng TorchNeuron. Ang balitang ito sa chain ay nagtuturo ng pagbabago sa AI + crypto news habang pinaghihinalaan ni Amazon ang dominasyon ni Nvidia.
Source:Ipakita ang original
Disclaimer: Ang information sa page na ito ay maaaring nakuha mula sa mga third party at hindi necessary na nagre-reflect sa mga pananaw o opinyon ng KuCoin. Ibinigay ang content na ito para sa mga pangkalahatang informational purpose lang, nang walang anumang representation o warranty ng anumang uri, at hindi rin ito dapat ipakahulugan bilang financial o investment advice. Hindi mananagot ang KuCoin para sa anumang error o omission, o para sa anumang outcome na magreresulta mula sa paggamit ng information na ito.
Maaaring maging risky ang mga investment sa mga digital asset. Pakisuri nang maigi ang mga risk ng isang produkto at ang risk tolerance mo batay sa iyong sariling kalagayang pinansyal. Para sa higit pang information, mag-refer sa aming Terms ng Paggamit at Disclosure ng Risk.