Balita ni ME, noong Hulyo 22 (UTC+8), ang teknikal na tim ng Xiaohongshu ay nag-open source ang BigMac, isang bagong paradigma para sa secure dependency nested pipeline na espesyal na disenyo para sa pag-train ng multimodal large models. Ito ay gumagamit ng LLM pipeline bilang pangunahing balangkas, at naglalagay ng encoder at generator computations nang hindi nagbabago ng order ng pagpapatupad, na nagtataglay ng 1.08x-1.9x na pagpapabilis kumpara sa baseline, habang nananatiling bounded ang activation memory. Ang BigMac ay naging core component na ginagamit sa produksyon para sa pag-train ng dots multimodal model. 🔗 Basahin ang orihinal na artikulo: https://mp.weixin.qq.com/s/tNJARtn1jIayL5URg87Row via AI HOT · https://aihot.virxact.com/items/cmrvx8ycy0240bipz0pkrvryq (Pinagmulan: AiHot)
Ibinahagi ng Xiaohongshu ang BigMac, isang bagong paradigma sa pagsasanay ng multimodal na malaking modelo
KuCoinFlashI-share
Summary
Binuksan ng Xiaohongshu ang BigMac, isang bagong multimodal na paraan ng pagtuturo na batay sa MetaEra. Gumagamit ang modelo ng isang dependency-safe na nested pipeline upang mag-merge ng mga computation ng encoder at generator sa isang LLM pipeline. Nagtataglay ito ng 1.08x-1.9x na pagpapabilis kumpara sa mga karaniwang paraan habang pinapanatili ang activation memory na limitado. Sumusuporta na ang BigMac sa production training para sa dots multimodal model. Patuloy na tumataas ang open interest sa mga teknikal na indikador habang tumatanggap ng suporta ang modelo.
Source:Ipakita ang original
Disclaimer: Ang information sa page na ito ay maaaring nakuha mula sa mga third party at hindi necessary na nagre-reflect sa mga pananaw o opinyon ng KuCoin. Ibinigay ang content na ito para sa mga pangkalahatang informational purpose lang, nang walang anumang representation o warranty ng anumang uri, at hindi rin ito dapat ipakahulugan bilang financial o investment advice. Hindi mananagot ang KuCoin para sa anumang error o omission, o para sa anumang outcome na magreresulta mula sa paggamit ng information na ito.
Maaaring maging risky ang mga investment sa mga digital asset. Pakisuri nang maigi ang mga risk ng isang produkto at ang risk tolerance mo batay sa iyong sariling kalagayang pinansyal. Para sa higit pang information, mag-refer sa aming Terms ng Paggamit at Disclosure ng Risk.