ME Haberleri'ne göre, 17 Nisan (UTC+8) tarihinde Beating tarafından izlendiğine göre, PrismML, Ternary Bonsai dil modeli serisini duyurdu. 1,58 bit (ternary ağırlıklar) teknolojisi sayesinde, yüksek performansı korurken modelin GPU bellek kullanımını 16 bit modellerin dokuzda birine indirdi. Seri, 8B, 4B ve 1,7B olmak üzere üç farklı parametre boyutunu içeriyor ve şu anda Hugging Face'de açık kaynaklı olarak yayınlanıp Apple cihazlarda yerel olarak çalıştırılabiliyor. 1,58 bit model, sinir ağı ağırlıklarını {-1, 0, +1} üç değerine sınırlamayı ifade eder. Daha önceki 1 bit modellerde (ağırlıklar yalnızca {-1, +1}) maksimum sıkıştırma hedeflenirken, "0" değerinin eklenmesi, gereksiz bağlantıları etkili bir şekilde ortadan kaldırır ve modelin çok küçük boyutlarda bile karmaşık çıkarım yeteneklerini korumasını sağlar. Yayınlanan Ternary Bonsai 8B ağırlık dosyası yalnızca 1,75 GB'dır ve temel testlerde ortalama skoru 75,5'tir; bu, kendi 1 bit versiyonundan 5 puan daha yüksektir ve hatta "akıllılık yoğunluğu" (her GB GPU belleğine katkıda bulunan performans) açısından Qwen3 gibi benzer yoğun modelleri büyük ölçüde geride bırakır. Enerji verimliliği ve çalışma hızı, bu serinin diğer temel avantajıdır. iPhone 17 Pro Max üzerinde, 8B versiyonu 27 tok/s hızla çalışabiliyor ve enerji verimliliği yaklaşık 3 ila 4 kat artırılıyor. Bu durum, yüksek performanslı AI'yi telefon, dizüstü bilgisayar gibi uç cihazlara dağıtmak isteyen geliştiriciler için, çok küçük bir bellek maliyetiyle neredeyse tam doğruluklu modellerin akıllılık performansını elde etmeyi mümkün kılıyor. Şu anda Ternary Bonsai modelleri, Apple cihazlarda MLX çerçevesi aracılığıyla yerel olarak desteklenmektedir. Ağırlıklar Apache 2.0 lisansı altında dağıtılıyor. (Kaynak: BlockBeats)
PrismML, 9 kat daha küçük parametreler ve daha yüksek zekâ ile 1,58-bit ternary Bonsai modelini başlatıyor
KuCoinFlashPaylaş
Özet
On-chain veriler, PrismML'nin 17 Nisan'da 1,58-bit Ternary Bonsai modelini yayınladığını gösteriyor; bellek kullanımı, 16-bit modellerin bir dokuzuna düşürüldü. 8B sürümü, iPhone 17 Pro Max'te 27 tok/s hızla çalışıyor ve testlerde 75,5 puan alıyor. Hugging Face'de mevcut olan bu model, Apple cihazlarını destekliyor ve Apache 2.0 altında açık kaynaklı hale getirildi. Pazar gözlemcileri, hafif AI benimsemenin artması nedeniyle bu yayınlanmanın korku ve avam endeksi üzerinde etki yaratabileceğini belirtiyor.
Kaynak:Orijinalini göster
Yasal Uyarı: Bu sayfadaki bilgiler üçüncü şahıslardan alınmış olabilir ve KuCoin'in görüşlerini veya fikirlerini yansıtmayabilir. Bu içerik, herhangi bir beyan veya garanti olmaksızın yalnızca genel bilgilendirme amacıyla sağlanmıştır ve finansal veya yatırım tavsiyesi olarak yorumlanamaz. KuCoin, herhangi bir hata veya eksiklikten veya bu bilgilerin kullanımından kaynaklanan sonuçtan sorumlu değildir.
Dijital varlıklara yapılan yatırımlar riskli olabilir. Lütfen bir ürünün risklerini ve risk toleransınızı kendi finansal koşullarınıza göre dikkatlice değerlendirin. Daha fazla bilgi için lütfen Kullanım Koşullarımıza ve Risk Açıklamamıza bakınız.