ChainThink সংবাদ, 2026 সালের 1 এপ্রিল, 1M AI News-এর মনিটরিং অনুযায়ী, ক্যালিফোর্নিয়া ইনস্টিটিউট অফ টেকনোলজির গণিতবিদ বাবাক হাসিবির সহ-প্রতিষ্ঠাতা এআই ল্যাব PrismML তাদের গোপন পর্যায় শেষ করে 1-বিট Bonsai সিরিজের বড় ভাষা মডেলগুলি ওপেন-সোর্স করেছে। ফ্ল্যাগশিপ মডেল 1-বিট Bonsai 8B-এ 8.2 বিলিয়ন প্যারামিটার রয়েছে, যার মেমোরি ব্যবহার মাত্র 1.15GB, যা একই স্তরের 16-বিট মডেলের তুলনায় প্রায় 14 গুণ কম। এছাড়াও 4B (0.5GB) এবং 1.7B (0.24GB) দুটি ছোট মডেলও প্রকাশ করা হয়েছে।
বনসাই 8B হল একটি এন্ড-টু-এন্ড বাস্তব 1-বিট মডেল, যেখানে এমবেডিং লেয়ার, অ্যাটেনশন লেয়ার, MLP লেয়ার এবং আউটপুট হেড সবকিছুই কেবল +1 বা -1 দিয়ে ওজন প্রকাশ করে, কোনো হাই-প্রেসিশন প্যাচ ছাড়া। PrismML দাবি করে যে এটি স্ট্যান্ডার্ড বেঞ্চমার্কে 16-বিট ফুল-প্রিসিশন মডেলের মতোই ইনফারেন্স এবং ভাষা বোধগম্যতা প্রদর্শন করে, যার কোর কম্প্রেশন গণিত ক্যালটেকের টিম বছরের পর বছর ধরে বিকাশ করেছে, যার বুদ্ধিবৃত্তিক সম্পত্তি ক্যালটেকের মালিকানাধীন, PrismML হল একমাত্র একচেটিয়া লাইসেন্সধারী, এবং মডেলটি Google v4 TPU-এ ট্রেনিং করা হয়েছে।
প্রায়োগিক গতির ক্ষেত্রে, M4 Pro Mac-এ 136 tok/s, RTX 4090-এ 440 tok/s, এবং iPhone 17 Pro Max-এ প্রায় 44 tok/s। স্ট্যান্ডার্ড 16-বিট 8B মডেলটি কোনও iPhone-এ ঢুকানো সম্ভব নয়, এবং 16-বিট মডেলের তুলনায় শক্তি খরচ প্রায় 4-5 গুণ কম। PrismML বলেছে, বর্তমান হার্ডওয়্যারগুলি 1-বিট ইনফারেন্সের জন্য ডিজাইন করা হয়নি; গতি এবং শক্তি খরচের সুবিধা মূলত মেমোরি ব্যবহার কমানোর কারণে। ভবিষ্যতে যদি 1-বিটের জন্য বিশেষভাবে ডিজাইন করা হার্ডওয়্যার আসে, তবে দক্ষতা আরও একটি ক্রম (order of magnitude) বাড়ানো যেতে পারে।
প্রিসমএমএল কে 16.25 মিলিয়ন ডলারের SAFE এবং বীজ ফান্ডিং সম্পন্ন করেছে, যার মধ্যে অংশীদার হিসেবে রয়েছে খোসলা ভেঞ্চার্স, সেরবেরাস ক্যাপিটাল এবং ক্যালিফোর্নিয়া ইনস্টিটিউট অফ টেকনোলজি। খোসলা ভেঞ্চার্সের প্রতিষ্ঠাতা ভিনোদ খোসলা এই অর্জনকে "একটি ছোট আপডেট নয়, এটি একটি বড় প্রযুক্তিগত বিপ্লব, একটি গণিতের বিপ্লব, শুধু আরেকটি ছোট মডেল নয়" বলে মূল্যায়ন করেছেন।