Ipinakilala ng AMD ang lokal na AI na platform para sa pag-code na Instinct Coder 355 na may 98% na performance ng Frontier Model

iconMetaEra
I-share
This is the logo of the coin.
AMD
----
This is the logo of the coin.
CLOUD
$0.03701-0.37%
This is the logo of the coin.
GLM
$0.10181.49%
AI summary iconSummary
Ipinakilala ni AMD ang Instinct Coder 355, isang lokal na AI na platform para sa pag-code na sumusuporta sa inference ng GLM-5.3 na may 98% na performance ng mga pinakamataas na model. Kasama sa sistema ang 8 MI355X accelerators, 2 EPYC 9575F processors, 3TB DDR5-6400 memory, at 63.36TB SSD storage. Ipinagdesign ito para sa on-premise na paggamit, kung saan pinapanatili ang data at computation sa lokal by default, at sumusuporta sa hanggang 85 developer bawat node. Ipinapakita ng AI + crypto news update na ito ang mga pag-unlad sa hardware habang patuloy ang mga trend sa inflation data.
Inilunsad ng AMD ang lokal na platform sa pag-program na Instinct Coder 355, kung saan ang 8 na MI355X ay nagtataglay ng lokal na performance na malapit sa 98% ng inference ng mga modelo sa kahulugan, at hindi naka-link sa internet ng default, at nananatili ang data sa lokal.

May-akda at pinagmulan: AIBase

Ibinabalik ng AMD ang malalaking modelo mula sa cloud patungo sa server room, at ito ang kanilang tinitindang produkto para sa mga enterprise developer. Noong lokal na petsa ng Nobyembre 9, kasama ni Spectro Cloud, ipinakilala ng AMD ang enterprise-grade AI-assisted programming platform na Instinct Coder 355, na kayang patakbuhin ang GLM-5.3 inference sa lokal, at ayon sa mga pahayag, nakakamit ng 98% ng performance ng mga pinakamoderno na modelo.

Lumalaban ang isang programming server gamit ang walong card

Ang katatagan ng sistema ay nasa paggamit ng malalaking komponente: ang pangunahin ay 8 na AMD Instinct MI355X accelerators, kasama ang 2 na 64-core na EPYC 9575F "Zen 5" processors, kasama ang 3TB ng DDR5-6400 memory at kabuuang 63.36TB ng solid-state storage. Binibigay ng Dell at Supermicro ang iba’t ibang bersyon ng buong sistema, kaya ang mga negosyo ay maaaring pumili batay sa kanilang data center preferences. Maaaring serbisyuhin ng isang node ng higit sa 85 na developer, kung saan 50 ang maaaring mag-code nang sabay-sabay, na kumakatawan sa pagkakasama ng lahat ng computing needs ng isang maliit na team sa isang single chassis.

Hindi konektado nang default, mananatili ang data sa lokal

Ang tunay na nagpapahusay sa mga kumpanya ay ang pagkakaroon ng "hindi kailangang lumabas" na setting. Sinuportahan ng Spectro Cloud ang sistema na ito sa pamamagitan ng PaletteAI Inference Launchpad management software, na nagsasagawa ng lokal na compute power sa halip na cloud API, kaya hindi na kailangang ipadala ang sensitibong code at data. Sa ilalim ng presyur sa gastos at pagkakasunod, ang pagpapalit ng inference pabalik sa sariling data center ay naging bagong direksyon na sinusuportahan ng mga malalaking kumpanya—ang hakbang na ito ni AMD ay malinaw na naglalayong humingi ng bahagi sa palaisipan ni NVIDIA at ng iba pang cloud providers.

Source:Ipakita ang original
Disclaimer: Ang information sa page na ito ay maaaring nakuha mula sa mga third party at hindi necessary na nagre-reflect sa mga pananaw o opinyon ng KuCoin. Ibinigay ang content na ito para sa mga pangkalahatang informational purpose lang, nang walang anumang representation o warranty ng anumang uri, at hindi rin ito dapat ipakahulugan bilang financial o investment advice. Hindi mananagot ang KuCoin para sa anumang error o omission, o para sa anumang outcome na magreresulta mula sa paggamit ng information na ito. Maaaring maging risky ang mga investment sa mga digital asset. Pakisuri nang maigi ang mga risk ng isang produkto at ang risk tolerance mo batay sa iyong sariling kalagayang pinansyal. Para sa higit pang information, mag-refer sa aming Terms ng Paggamit at Disclosure ng Risk.