
Malaking linggo para sa @TPN_Labs, nag-live na ang Gratis, at eksaktong ganito ang uri ng bagay na sinabi ng mga tao na hindi maiuulat ng subnets. Ito ay isang libreng app na tumatakbo sa open source models nang direkta sa iyong browser tab o sa desktop, walang account, walang i-install, at walang iyong type na umuwi sa iyong machine. Ang engineering ang nagpapakita sa akin. Karaniwan, may limitasyon ang mga browser sa 4GB na memorya bawat tab, na mas mababa kaysa sa kailangan ng isang totoong model. Ang koponan ay pinag-ibayong ang inference runtime sa 64-bit addressing at itinataas ang hangganan hanggang 16GB. Dito nagiging posible na tumakbo ang isang model ng totoong laki sa isang tab. Kasama rin nito ang pag-load ng mga model mula sa 900,000+ na open source options sa Hugging Face, libre at walang limitasyon sa paggamit, dahil ito ay tumatakbo sa hardware na iyong may-ari na. Ang advantage para sa mga tao dito ay simpleng simpleng: Next time magtanong ang isang tao kung ano ang tunay na nagagawa ng subnets, i-send mo lang ang isang link at sila ay makakatatakbo ng isang model sa loob ng isang minuto. Totoong pagkilala sa koponan, ganito ang paraan upang gawing maabot ng lahat ang local AI. Buod ng mga numero sa likod nito bukas.





