Menurut pengungkapan CEO Tether, Paolo Ardoino, tim Tether AI telah meluncurkan versi baru QVAC Fabric yang mengintegrasikan kerangka BitNet LoRA lintas platform, memungkinkan pelatihan dan inferensi model besar dengan parameter miliaran pada GPU konsumen dan smartphone. Versi baru QVAC Fabric LLM pertama kali memungkinkan fine-tuning dan inferensi BitNet LoRA berjalan lintas platform di AMD, Intel, Apple Metal, dan GPU seluler. Pada perangkat unggulan, kecepatan inferensi GPU meningkat 2 hingga 11 kali dibanding CPU, dengan penggunaan memori berkurang hingga 90% dibanding model presisi penuh. Tim Tether telah berhasil melakukan fine-tuning model hingga 3,8 miliar parameter di smartphone unggulan seperti Pixel 9, S25, dan iPhone 16, serta mencapai fine-tuning model hingga 13 miliar parameter di iPhone 16. Kode terkait telah dirilis secara open source di GitHub.
Tether Meluncurkan Kerangka Kerja BitNet LoRA lintas platform untuk GPU konsumen dan smartphone
TechFlowBagikan
Ringkasan
Tether mengumumkan peluncuran QVAC Fabric versi terbaru oleh Tether AI, yang menampilkan kerangka BitNet LoRA lintas platform. Kerangka ini memungkinkan model dengan miliaran parameter berjalan di GPU konsumen dan smartphone. LLM baru ini mendukung AMD, Intel, Apple Metal, dan GPU seluler, dengan kecepatan inferensi 2 hingga 11 kali lebih cepat daripada CPU dan penggunaan memori 90% lebih rendah. Tether telah melakukan fine-tuning model dengan 3,8 miliar dan 130 miliar parameter pada perangkat seperti iPhone 16. Kode kini telah di-open-source di GitHub. Berita on-chain menyoroti pembaruan besar ini. Pencatatan token baru mungkin mendapat manfaat dari kemajuan AI ini.
Sumber:Tampilkan versi asli
Penafian: Informasi pada halaman ini mungkin telah diperoleh dari pihak ketiga dan tidak mencerminkan pandangan atau opini KuCoin. Konten ini disediakan hanya untuk tujuan informasi umum, tanpa representasi atau jaminan apa pun, dan tidak dapat ditafsirkan sebagai saran keuangan atau investasi. KuCoin tidak bertanggung jawab terhadap segala kesalahan atau kelalaian, atau hasil apa pun yang keluar dari penggunaan informasi ini.
Berinvestasi di aset digital dapat berisiko. Harap mengevaluasi risiko produk dan toleransi risiko Anda secara cermat berdasarkan situasi keuangan Anda sendiri. Untuk informasi lebih lanjut, silakan lihat Ketentuan Penggunaan dan Pengungkapan Risiko.