Maaari mo ngayong jalurin ang iyong open-source models sa iyong sariling machine nang walang pagpapadala ng anumang data sa cloud. @TPN_Labs (Bittensor SN65) ay nagpapaliit ng mga model sa pamamagitan ng kompetitibong optimisasyon. Ang mga miner ay nagpapaliit sa ilalim ng mga tunay na limitasyon ng hardware at benchmark floors. Ang mga validator ay muli nang isinasagawa ang mga pagsubok. Ang pinakamaliit na model na nakakapasa sa pamantayan ang nananalo. Ang @Gratis_AI ay kumuha ng mga model na ito (o anumang model mula sa @huggingface) at isinasagawa ito lokal sa browser o desktop app. Ngunit ang caveat ay ang lokal na inference ay patuloy na nakadepende sa iyong hardware. Ano ang nakakatangi: • Ang mga model ay optimisado sa-chain. Ang kamakailang kompetisyon ay nagbawas ng isang model mula sa ~17GB hanggang 7.71GB habang pinabuti ang benchmark score mula sa 66.57% hanggang 74.93%. • Ang Gratis ay walang kailangang setup. Pumili ng isang model o i-load ang isang model mula sa Hugging Face - i-download ito nang isang beses at isasagawa ito sa iyong device. • Ang privacy ay default. Ang bawat prompt ay nananatili sa iyong machine. Gumagana nang offline pagkatapos ng unang download. • Walang API fees, walang account kailangan. Mabilis na halimbawa: Isang model na dati ay nangangailangan ng high-end GPU ay maaari ngayong maging sapat na maliit upang makapag-run sa isang karaniwang laptop, at gamitin sa pamamagitan ng Gratis nang hindi naglalabas sa iyong device. TPN ay bumubuo ng maliit, kayang mga model. Gratis ang nagpapagalaw sa kanila. #Bittensor #Subnet65 #TPN