একটি সিঙ্গাপুরভিত্তিক এজিআই গবেষণা কোম্পানি স্যাপিয়েন্ট ইন্টেলিজেন্স একটি ভাষা মডেল HRM-Text-এর সম্পূর্ণ ওজন, প্রি-ট্রেনিং কোড এবং ডেটা পাইপলাইন প্রকাশ করেছে, যা এটি যা হাইয়ারার্কিক্যাল রিজনিং মডেল আর্কিটেকচার বলে অভিহিত করে। সম্পূর্ণ প্যাকেজটি Hugging Face এবং GitHub-এ Apache 2.0 লাইসেন্সের অধীনে উপলব্ধ, যার অর্থ যেকোনো ব্যক্তি এটি ব্যবহার, পরিবর্তন বা বাণিজ্যিকভাবে ভিত্তি হিসেবে ব্যবহার করতে পারেন।
উল্লেখযোগ্য বিষয় শুধু ওপেন-সোর্স পদক্ষেপ নয়। এটি অর্থনীতি। প্রায় 1 বিলিয়ন প্যারামিটার সহ HRM-Text প্রায় 40 বিলিয়ন টোকেনে প্রি-ট্রেনড হয়েছে এবং সামান্য হার্ডওয়্যারে এর খরচ অনুমান করা হয়েছে $1,000 থেকে $1,500। প্রসঙ্গ হিসেবে, প্রধান ল্যাবগুলির ফ্রন্টিয়ার মডেলগুলি সাধারণত ট্রিলিয়ন টোকেনে ট্রেনিং করে এবং কম্পিউট বাজেট দশ বা শত মিলিয়ন ডলারের মধ্যে চলে।
এটি কিভাবে কাজ করে
মডেলটি কোম্পানি যা বর্ণনা করে তা হল হাইরার্কিক্যাল লেটেন্ট রিকারেন্ট আর্কিটেকচার। হাই-লেভেল মডিউলটি ধীর, বিষয়বস্তুগত যুক্তি পরিচালনা করে, প্রতিটি পাসে 2টি “H-সাইকেল” পুনরাবৃত্তি করে। লো-লেভেল মডিউলটি দ্রুত, বিস্তারিত প্রক্রিয়াকরণ পরিচালনা করে, প্রতিটি পাসে 3 থেকে 6টি “L-সাইকেল” চালায়। এই মডিউলগুলি একসাথে আউটপুট উত্পাদনের আগে মডেলটিকে নিজের যুক্তির উপর একাধিকবার পুনরাবৃত্তি করতে সক্ষম করে, একইসাথে প্যারামিটার সংখ্যা স্থির রেখে।
দৃশ্যমান চেইন-অফ-থট টোকেন তৈরি করে কনটেক্সট উইন্ডো এবং ইনফারেন্স খরচ খরচ করার পরিবর্তে, HRM-Text এর পুনরাবৃত্তিমূলক চিন্তা অভ্যন্তরীণভাবে ঘটে। যুক্তিটি মডেলের লুকানো অবস্থায় ঘটে, আউটপুট টেক্সটে নয়।
উল্লেখযোগ্য পারফরম্যান্স যা উপরের দিকে আঘাত করে
এপ্রিল ২০২৬-এ পরিচালিত স্বাধীন মূল্যায়নগুলি সংখ্যার মাধ্যমে গল্পটি বলে। HRM-Text এর MATH বেঞ্চমার্কে ৫৬.২%, DROP-এ ৮২.২%, ARC-Challenge-এ ৮১.৯% এবং MMLU-এ ৬০.৭% স্কোর হয়েছে। প্রি-ট্রেনিং প্রায় একদিনে সম্পন্ন হয়েছে বলে জানানো হয়েছে।
HRM-Text স্যাপিয়েন্টের আগের কাজের উপর ভিত্তি করে তৈরি করা হয়েছে। জুলাই 2025-এ ওপেন-সোর্স করা মূল HRM মডেলটিতে মাত্র 27 মিলিয়ন প্যারামিটার ছিল এবং কেবলমাত্র 1,000টি ট্রেনিং উদাহরণ দিয়েই জটিল যুক্তিগত কাজগুলিতে শক্তিশালী পারফরম্যান্স দেখিয়েছিল। HRM-Text একই আর্কিটেকচারাল ফিলোসফি বজায় রেখে প্যারামিটারের প্রায় 37x স্কেল-আপ প্রতিনিধিত্ব করে।
স্যাপিয়েন্ট আর্কিটেকচার অন্বেষণে আগ্রহী ডেভেলপারদের জন্য একটি ডিসকর্ড চ্যানেল সেটআপ করেছে। অ্যাপাচি 2.0 লাইসেন্স আইনগত বাধা দূর করে। $1,500 এর প্রশিক্ষণ খরচ বেশিরভাগ আর্থিক বাধা দূর করে।