PrismML ने 1.58-बिट टर्नरी बोंसाई मॉडल को लॉन्च किया, जिसमें 9 गुना छोटे पैरामीटर और अधिक बुद्धिमत्ता है

ME News के अनुसार, 17 अप्रैल (UTC+8) को, Beating द्वारा निगरानी के अनुसार, PrismML ने Ternary Bonsai श्रृंखला भाषा मॉडल जारी किए हैं, जो 1.58 बिट (ternary weights) तकनीक के माध्यम से उच्च प्रदर्शन को बनाए रखते हुए मॉडल की GPU मेमोरी उपयोग को 16-बिट मॉडल के एक-नौवें तक कम कर देता है। इस श्रृंखला में 8B, 4B और 1.7B पैरामीटर साइज़ शामिल हैं, जो अब Hugging Face पर ओपन सोर्स हैं और Apple डिवाइस पर नेटिव रनिंग का समर्थन करते हैं। 1.58-बिट मॉडल का अर्थ है कि न्यूरल नेटवर्क में वजन को {-1, 0, +1} तीन मानों तक सीमित किया जाता है। पिछले 1-बिट मॉडल (जिसमें वजन केवल {-1, +1} होते हैं) की तुलना में, '0' मान को शामिल करने से अतिरिक्त कनेक्शन्स को प्रभावी ढंग से हटाया जा सकता है, जिससे मॉडल अत्यंत संकुचित आकार में भी जटिल निष्कर्षण क्षमता बनाए रख सकता है। इसके साथ जारी Ternary Bonsai 8B वजन फ़ाइल केवल 1.75 GB है, और इसका बेंचमार्क स्कोर 75.5 है, जो अपने ही 1-बिट संस्करण से 5 पॉइंट अधिक है, और 'बुद्धिमत्ता घनत्व' (प्रति GB GPU मेमोरी का समर्थन) में Qwen3 जैसे समान सघन मॉडल्स की तुलना में काफी आगे है। कुशलता और चलाने की गति इस श्रृंखला का एक अन्य प्रमुख लाभ है। iPhone 17 Pro Max पर, 8B संस्करण 27 tok/s की गति से चलता है, और कुशलता में 3 से 4 गुना सुधार हुआ है। इसका मतलब है कि डेवलपर्स Apple, MacBook जैसे सिरे के डिवाइस पर प्रदर्शन-उच्च AI को स्थापित करने के लिए, संपूर्ण सटीकता मॉडल के समान स्मार्टनेस प्राप्त करने के लिए बहुत कम मेमोरी की लागत का प्रयोग कर सकते हैं। वर्तमान में, Ternary Bonsai मॉडल MLX फ्रेमवर्क के माध्यम से Apple डिवाइस पर नेटिव समर्थन प्राप्त कर चुके हैं। मॉडल के वजन Apache 2.0 लाइसेंस के तहत प्रसारित किए जा रहे हैं। (स्रोत: BlockBeats)