Açık kaynak modelleriniz artık hiçbir şeyi buluta göndermeden kendi cihazınızda çalıştırılabiliyor. @TPN_Labs (Bittensor SN65), modelleri rekabetçi optimizasyonla sıkıştırıyor. Madenci ler, gerçek donanım sınırları ve performans alt limitleri altında modelleri küçültüyor. Doğrulayıcılar testleri tekrar yürütüyor. Barajı aşan en küçük model kazanıyor. @Gratis_AI, bu modelleri (veya @huggingface'den herhangi bir modeli) yerel olarak tarayıcıda veya masaüstü uygulamasında çalıştırıyor. Ancak dikkat edilmesi gereken nokta: yerel çıkarım hâlâ donanımınıza bağlı. Dikkat çekici olanlar: • Modeller zincir üzerinde optimize ediliyor. Son rekabette bir model, ~17 GB'dan 7,71 GB'a indirilirken, performans skoru 66,57%'den 74,93%'e yükseltildi. • Gratis kurulum gerektirmiyor. Bir model seçin veya Hugging Face'den birini yükleyin – bir kez indirilir ve cihazınızda çalışır. • Gizlilik varsayılan durumdur. Her soru cihazınızda kalır. İlk indirme sonrası çevrimdışı çalışır. • API ücreti yoktur, hesap gerekmez. Hızlı bir örnek: Daha önce yüksek performanslı bir GPU gerektiren bir model, artık normal bir dizüstü bilgisayarda çalışacak şekilde yeterince sıkıştırılabilir ve Gratis aracılığıyla cihazınızdan hiç çıkmadan kullanılabilir. TPN, küçük ama yetenekli modeller geliştiriyor. Gratis bunları çalıştırıyor. #Bittensor #Subnet65 #TPN