প্রিজমএমএল 1.58-বিট টার্নারি বনসাই মডেল চালু করেছে, যার 9x ছোট প্যারামিটার এবং বেশি বুদ্ধিমত্তা রয়েছে

ME News 消息，4 月 17 日（UTC+8），据 动察 Beating 监测，PrismML 发布 Ternary Bonsai সিরিজের ভাষা মডেল, যেখানে 1.58 比特（ternary weights） প্রযুক্তি ব্যবহার করে উচ্চ পারফরম্যান্স বজায় রেখে মডেলের显存使用কে 16 比特 মডেলের নয় ভাগের এক ভাগে নামিয়ে আনা হয়েছে। এই সিরিজে 8B, 4B এবং 1.7B – এই তিন ধরনের প্যারামিটার স্কেল অন্তর্ভুক্ত রয়েছে, যা ইতোমধ্যে Hugging Face-এ ওপেন সোর্স হিসেবে উন্মুক্ত করা হয়েছে এবং অ্যাপল ডিভাইসে নেটিভভাবে চলার সমর্থন দিচ্ছে。 所谓 1.58 比特模型，是指将神经网络中的权重限制在 {-1, 0, +1} 三个值。 পূর্বে চরম压缩 লক্ষ্যে ব্যবহৃত 1 比特 模型ের (যেখানে 权重 কেবল {-1, +1} ছিল) তুলনায়, 「0」 মান যুক্ত করার মাধ্যমে কার্যকরভাবে অপ্রয়োজনীয় সংযোগগুলো বাদ দেয়া সম্ভব হয়, ফলে অত্যন্ত ছোট মডেল সাইজ থাকার পরও জটিল推理能力 বজায় রাখা যায়। এবার প্রকাশিত Ternary Bonsai 8B 权重文件 কেবল 1.75 GB, এবং এর基准测试 গড় স্কোর 75.5-এ পৌঁছেছে, যা শুধু তাদের নিজস্ব 1 比特 সংস্করণের চেয়ে 5 পয়েন্ট বেশি নয়, 「智能密度」（প্রতি GB 显存 থেকে পাওয়া পারফরম্যান্স）– এই সূচকে Qwen3 সহ অন্যান্য同类稠密模型কেও উল্লেখযোগ্যভাবে পিছনে ফেলেছে。 能效比 এবং运行速度 এই সিরিজের আরেকটি মূল সুবিধা। iPhone 17 Pro Max-এ, 8B সংস্করণের 运行速度 27 tok/s পর্যন্ত পৌঁছাতে পারে, 能效比 প্রায় 3 থেকে 4 গুণ পর্যন্ত বৃদ্ধি পায়। মোবাইল ফোন, ল্যাপটপসহ বিভিন্ন端侧设备-এ উচ্চ性能 AI ডিপ্লয় করতে ইচ্ছুক ডেভেলপারদের জন্য এর অর্থ হলো, অত্যন্ত কম মেমরি খরচে প্রায় সম্পূর্ণ精度模型-এর সমতুল্য智能表现 পাওয়া সম্ভব。 বর্তমানে, Ternary Bonsai 模型 ইতোমধ্যে Apple ডিভাইসে MLX 框架ের মাধ্যমে নেটিভ সাপোর্ট পেয়েছে। 模型权重 Apache 2.0 协议-এর অধীনে বিতরণ করা হচ্ছে。 （来源：BlockBeats）