PrismML、パラメータ数が9分の1でより高い知能を備えた1.58ビット三値ボンサイモデルをリリース

MEニュース：4月17日（UTC+8）、動察Beatingの監視によると、PrismMLはTernary Bonsaiシリーズ言語モデルをリリースし、1.58ビット（ternary weights）技術を用いて、高性能を維持しつつモデルのVRAM使用量を16ビットモデルの1/9に削減しました。このシリーズは8B、4B、1.7Bの3つのパラメータ規模を含み、すでにHugging Faceでオープンソース化され、Appleデバイスでのネイティブ実行をサポートしています。1.58ビットモデルとは、ニューラルネットワークの重みを{-1, 0, +1}の3つの値に制限することを意味します。以前の極限圧縮を目指した1ビットモデル（重みは{-1, +1}のみ）と比較して、「0」の値を導入することで不要な接続を効果的に除去し、極めて小さなサイズでも複雑な推論能力を維持できます。今回リリースされたTernary Bonsai 8Bの重みファイルはわずか1.75GBで、ベンチマーク平均スコアは75.5に達し、自社の1ビットバージョンより5ポイント高く、さらに「知能密度」（1GBのVRAMあたりの性能貢献）においてQwen3などの類似濃密モデルを大幅に上回っています。効率性と実行速度はこのシリーズのもう一つの核心的優位性です。iPhone 17 Pro Maxでは、8Bバージョンの実行速度は27 tok/sに達し、効率性は約3〜4倍向上します。これは、モバイル端末やノートパソコンなどのエッジデバイスに高性能AIを展開する開発者にとって、極めて小さなメモリコストでほぼ完全精度モデルに匹敵する知能性能を実現できることを意味します。現在、Ternary BonsaiモデルはMLXフレームワークを通じてAppleデバイスでネイティブ対応されています。モデル重みはApache 2.0ライセンスで配布されています。（出典：BlockBeats）