Model sumber terbuka anda kini boleh berjalan di mesin anda sendiri tanpa menghantar apa-apa ke awan. @TPN_Labs (Bittensor SN65) memampatkan model melalui pengoptimuman kompetitif. Penambang mengecilkan model di bawah had peranti sebenar dan paras ujian. Pemeriksa menjalankan semula ujian tersebut. Model terkecil yang masih melepasi piawaian akan menang. @Gratis_AI kemudian menjalankan model-model tersebut (atau mana-mana model dari @huggingface) secara tempatan di dalam browser atau aplikasi desktop. Namun, perhatian: inferens tempatan masih bergantung pada peranti anda. Yang menarik: • Model dioptimumkan secara atas rantai. Pertandingan terkini memampatkan model daripada ~17GB kepada 7.71GB sambil meningkatkan skor ujian daripada 66.57% kepada 74.93%. • Gratis tidak memerlukan sebarang tetapan. Pilih satu model atau muat naik satu dari Hugging Face - ia dimuat turun sekali sahaja dan berjalan di peranti anda. • Privasi adalah laluan asal. Setiap soalan kekal di mesin anda. Berfungsi tanpa sambungan internet selepas muat turun awal. • Tiada yuran API, tiada akaun diperlukan. Contoh pantas: Satu model yang sebelum ini memerlukan GPU kelas tinggi kini boleh dimampatkan hingga boleh berjalan pada laptop biasa, kemudian digunakan melalui Gratis tanpa pernah meninggalkan peranti anda. TPN membina model kecil yang cekap. Gratis menjalankannya. #Bittensor #Subnet65 #TPN