PrismML Meluncurkan Model Bonsai Ternari 1,58-bit dengan Parameter 9x Lebih Kecil dan Kecerdasan Lebih Tinggi

iconKuCoinFlash
Bagikan
AI summary iconRingkasan
Data on-chain menunjukkan bahwa PrismML meluncurkan model Ternary Bonsai 1,58-bit pada 17 April, dengan penggunaan memori berkurang menjadi sepertujuh dari model 16-bit. Versi 8B berjalan pada 27 tok/s di iPhone 17 Pro Max dan mendapat skor 75,5 pada benchmark. Model ini tersedia di Hugging Face, mendukung perangkat Apple, dan telah open-source di bawah lisensi Apache 2.0. Pengamat pasar mencatat bahwa peluncuran ini dapat memengaruhi indeks fear and greed seiring meningkatnya adopsi AI ringan.

Berita ME, 17 April (UTC+8), menurut pemantauan Beating, PrismML meluncurkan seri model bahasa Ternary Bonsai, yang mengurangi penggunaan memori GPU menjadi sepertujuh dari model 16-bit sambil mempertahankan kinerja tinggi melalui teknologi 1,58 bit (weight terner). Seri ini mencakup tiga ukuran parameter: 8B, 4B, dan 1,7B, dan kini telah dirilis secara open source di Hugging Face dengan dukungan berjalan native di perangkat Apple. Model 1,58 bit merujuk pada pembatasan bobot jaringan saraf ke tiga nilai: {-1, 0, +1}. Dibandingkan model 1-bit sebelumnya yang mengejar kompresi ekstrem (hanya {-1, +1}), penambahan nilai "0" secara efektif menghilangkan koneksi redundan, memungkinkan model tetap mempertahankan kemampuan inferensi kompleks meskipun ukurannya sangat kecil. File bobot Ternary Bonsai 8B yang baru diluncurkan hanya berukuran 1,75 GB, dengan skor rata-rata benchmark mencapai 75,5—lebih tinggi 5 poin dibanding versi 1-bit milik mereka sendiri, bahkan secara signifikan unggul dalam "kepadatan cerdas" (kinerja per GB memori GPU) dibanding model padat sejenis seperti Qwen3. Efisiensi energi dan kecepatan eksekusi merupakan keunggulan utama lain dari seri ini. Di iPhone 17 Pro Max, versi 8B mampu berjalan dengan kecepatan 27 tok/s dan meningkatkan efisiensi energi sekitar 3 hingga 4 kali lipat. Ini berarti bagi pengembang yang ingin menerapkan AI berkinerja tinggi di perangkat edge seperti ponsel atau laptop, mereka dapat memperoleh performa cerdas yang mendekati model presisi penuh dengan biaya memori yang sangat kecil. Saat ini, model Ternary Bonsai telah mendukung native di perangkat Apple melalui kerangka MLX. Bobot model didistribusikan di bawah lisensi Apache 2.0. (Sumber: BlockBeats)

Penafian: Informasi pada halaman ini mungkin telah diperoleh dari pihak ketiga dan tidak mencerminkan pandangan atau opini KuCoin. Konten ini disediakan hanya untuk tujuan informasi umum, tanpa representasi atau jaminan apa pun, dan tidak dapat ditafsirkan sebagai saran keuangan atau investasi. KuCoin tidak bertanggung jawab terhadap segala kesalahan atau kelalaian, atau hasil apa pun yang keluar dari penggunaan informasi ini. Berinvestasi di aset digital dapat berisiko. Harap mengevaluasi risiko produk dan toleransi risiko Anda secara cermat berdasarkan situasi keuangan Anda sendiri. Untuk informasi lebih lanjut, silakan lihat Ketentuan Penggunaan dan Pengungkapan Risiko.