Ang Beijing-based AI startup na Moonshot AI ay nag-lock in ng kasunduan sa Alibaba Group upang makamit ang halos 20,000 na Nvidia H200 chips, na nagbibigay sa kompanya ng uri ng computing power na karaniwang nakareserba para sa mga pinakamalaking laboratorio sa mundo. Ang pagkakasundo ay nagpapakita kung gaano kagaling ang paglalawak ng mga Chinese AI company, kahit na sinisikap ng Washington na panatilihin ang pinakamalalaking semiconductor labas sa kanilang kamay.
Ginagamit ang GPU cluster upang turuan at patakbuhin ang Moonshot’s Kimi K3 model, na ipinakilala noong around July 17 na may hanggang 2.8 trilyon na parameter. Para sa konteksto, nasa parehong antas ito ng mga frontier model na lumalabas mula sa OpenAI at Anthropic, ang mga kumpanya na namamahala sa global na usapin sa AI sa nakalipas na dalawang taon.
Malalim ang ugnayan sa Alibaba
Hindi ito isang pang-araw-araw na kontrata para sa cloud computing. Nagtataglay ang Alibaba ng halos 36% ng Moonshot AI, gawa nito ang isang mas malalim kaysa sa isang vendor. Ito ang pinakamalaking estratehikong tagasuporta ng kumpanya at, sa pamamagitan ng pagkakasundo sa pagbabahagi ng chip, ang kritikal na infrastruktura na nagpapatuloy sa pagpapagana ng mga modelo ni Kimi.
Ang stake na pagmamay-ari ay nangangahulugan din na may malaking interes si Alibaba sa direksyon ng Moonshot. Tumataas ang valuation ng startup hanggang sa $35 bilyon dahil sa mga bagong modelong ipinakilala at ang pagtaas ng demand ng mga user. Ayon sa mga ulat, nasa pag-uusap na ang posibleng IPO sa Hong Kong.
Bakit mahalaga ang 20,000 na H200
Ang H200 ay ang pinabuting bersyon ng H100 ni Nvidia, ang chip na naging de facto na pambayad sa pagtatrain ng AI sa mga nakalipas na ilang taon. Isang cluster ng 20,000 mga processor na ito ay nagpapakita ng malaking konsentratong lakas ng kompyutasyon, sapat upang itrain ang mga modelo na makakapagpahalaga sa anumang lumalabas mula sa Silicon Valley.
At hindi nagtatapos ang Moonshot dito. Ayon sa mga ulat, naghahanap na ang kumpanya ng mga susunod na henerasyon ng Blackwell chips ni Nvidia para sa inaasahang modelo nito na K4.
Kumuha ang Kimi K3 ng malakas na pagdating
Ang debute ng modelo na Kimi K3 ay tila hindi isang tahimik na pagpapakilala. Agad na tumindi ang demand agad pagkatapos ng paglabas, na pinosisyon bilang direkta na kalaban ng mga namumunong Western AI system. Sa 2.8 trilyong parameter, ang K3 ay isang malaking hakbang pataas sa sukat para sa Moonshot at sa Chinese AI ecosystem nang mas malawak.