Minggu besar untuk @TPN_Labs, Gratis baru saja diluncurkan, dan ini persis jenis hal yang orang katakan subnets tidak pernah dirilis. Ini adalah aplikasi gratis yang menjalankan model open source langsung di tab browser atau di desktop, tanpa akun, tanpa instalasi, dan tidak ada yang Anda ketik pernah meninggalkan mesin Anda. Tekniknya yang membuat saya terkesan. Browser biasanya membatasi satu tab pada 4GB memori, jauh di bawah kebutuhan model nyata. Tim ini mengambil fork dari runtime inferensi ke alamat 64 bit dan menaikkan batas menjadi 16GB. Itulah sebabnya model berukuran nyata bisa berjalan di dalam tab sama sekali. Aplikasi ini juga memuat model dari lebih dari 900.000 pilihan open source di Hugging Face, gratis tanpa batasan penggunaan, karena berjalan pada perangkat keras yang sudah Anda miliki. Keunggulan bagi orang-orang di sini sederhana. Saat seseorang bertanya apa yang sebenarnya dihasilkan subnets, Anda cukup mengirim satu tautan dan mereka bisa menjalankan model sendiri dalam sekitar satu menit. Penghargaan tulus untuk tim ini, inilah cara membuat AI lokal menjadi sesuatu yang bisa diakses siapa pun. Posting lengkap tentang angka-angka di baliknya besok. 1/2