Ipinakilala ng Hugging Face ang Kernels Hub para sa mga pre-compiled na GPU operator

iconKuCoinFlash
I-share
Share IconShare IconShare IconShare IconShare IconShare IconCopy
AI summary iconSummary

expand icon
Kinumpirma ni Hugging Face CEO na si Clem Delangue ang opisyal na paglunsad ng Kernels sa Hub noong Abril 15 (UTC+8), na nagmarka ng isang malaking on-chain na balita para sa mga developer. Ang Kernels ay nag-aalok ng pre-compiled GPU operators, na nagpapabilis ng inference at training ng 1.7 hanggang 2.5 beses. Maaari na ngayong i-install ng mga developer ang mga operator na ito gamit ang isang linya ng code, kasama ang cloud-based compilation na hawak ng Hugging Face. Awtomatikong pinagsasama ng Hub ang hardware at ipinapadala ang mga file sa ilang segundo. Ngayon ay isang top-level na uri ng repository, ang Kernels ay naglalaman ng 61 operators para sa karaniwang mga gawain, na sumusuporta sa NVIDIA CUDA, AMD ROCm, Apple Metal, at Intel XPU. Ang balita tungkol sa paglunsad ng token ay sumunod sa isang beta phase noong Hunyo 2025.

Balita ni ME, noong Abril 15 (UTC+8), ayon sa pagmamasid ng 1M AI News, ipinahayag ni Clem Delangue, CEO ng Hugging Face, na ang Kernels ay opisyal nang ipinakilala sa Hub. Ang GPU operators ay mga pababaang optimisasyon na code na nagpapabilis sa mga graphics card hanggang sa kanilang maximum na bilis, na makakapagpabilis ng 1.7 hanggang 2.5 beses ang inference at training, ngunit ang pag-install ay laging isang nightmare: bilang halimbawa ang pinakakaraniwang FlashAttention, ang lokal na compilation ay nangangailangan ng halos 96GB ng memorya at ilang oras, at kahit anumang mali sa bersyon ng PyTorch o CUDA ay magdudulot ng error—karamihan sa mga developer ay nakakapit sa hakbang na ito sa pag-install. Ang Kernels Hub ay naglilipat ng compilation sa cloud. Ang Hugging Face ay naka-compile na ng mga operator sa iba’t ibang mga GPU at sistema, at kapag isinusulat ng developer ang isang linya ng code, awtomatikong tatalakayin ng Hub ang hardware environment at i-download ang pre-compiled na file na agad ay maaaring gamitin. Maaaring i-load ang maraming iba’t ibang bersyon ng operator sa iisang proseso, at kompatibleng may torch.compile. Ang Kernels ay unang ipinakilala noong Hunyo taong nakaraan bilang test, at ngayon ay inayos na bilang isang pangunahing uri ng repository sa Hub, kasama ang Models, Datasets, at Spaces. Kasalukuyan, mayroon nang 61 pre-compiled operators na sumasakop sa karaniwang mga sitwasyon tulad ng attention mechanism, normalization, mixture-of-experts routing, at quantization, at suportado ang apat na platform ng hardware acceleration: NVIDIA CUDA, AMD ROCm, Apple Metal, at Intel XPU, at nai-integrate na sa Hugging Face’s inference framework na TGI at Transformers library. (Pinagmulan: BlockBeats)

Disclaimer: Ang information sa page na ito ay maaaring nakuha mula sa mga third party at hindi necessary na nagre-reflect sa mga pananaw o opinyon ng KuCoin. Ibinigay ang content na ito para sa mga pangkalahatang informational purpose lang, nang walang anumang representation o warranty ng anumang uri, at hindi rin ito dapat ipakahulugan bilang financial o investment advice. Hindi mananagot ang KuCoin para sa anumang error o omission, o para sa anumang outcome na magreresulta mula sa paggamit ng information na ito. Maaaring maging risky ang mga investment sa mga digital asset. Pakisuri nang maigi ang mga risk ng isang produkto at ang risk tolerance mo batay sa iyong sariling kalagayang pinansyal. Para sa higit pang information, mag-refer sa aming Terms ng Paggamit at Disclosure ng Risk.