থিংকিং মেশিনস ইন্কলিং-স্মল ওপেন-সোর্স মডেল প্রকাশ করেছে, যার মোট প্যারামিটার 2760 বিলিয়ন এবং সক্রিয় প্যারামিটার 120 বিলিয়ন, যা MoE আর্কিটেকচার এবং ন্যাটিভ মাল্টিমোডাল ডিজাইন ব্যবহার করে। এই মডেলটি শুধুমাত্র প্রথম প্রজন্মের ইন্কলিং-এর চারভাগের একভাগ আকার ব্যবহার করেই গণিত, যুক্তি এবং এজেন্ট কোডিংয়ের মতো বেঞ্চমার্কে এটি পরাজিত করেছে। ডিস্টিলেশন এবং দুই সপ্তাহের রিইনফোর্সমেন্ট লার্নিং ট্রেনিংয়ের মাধ্যমে এটি পারফরম্যান্সের উপরে চলে আসে, যা যুক্তির বাধা ব্যাপকভাবে কমিয়েছে এবং মধ্যম দলগুলিকেও মডেলকে কাস্টমাইজ করতে সক্ষম করেছে। যদিও ছয়জন সহ-প্রতিষ্ঠাতা চলে গেছেন, দলটি অস্থিরতার মধ্যেও উচ্চ頻率-এর প্রকাশনা গতি বজায় রেখেছে।লেখক এবং উৎস: 36Kr
Thinking Machines প্রথম প্রজন্মের চেয়ে অধিক ক্ষমতাসম্পন্ন ওপেন-সোর্স মডেল Inkling-Small প্রকাশ করেছে
ইন্কলিং প্রথম মডেলটি চালুর পর, একটি নতুন এআই আবার সোশ্যাল মিডিয়াকে ছাড়িয়ে গেল!
আজ, থিঙ্কিং মেশিনস তাদের দ্বিতীয় প্রধান মডেল—Inkling-Small-এর অফিসিয়াল প্রকাশ করেছে।
276B মোট প্যারামিটার, 12B সক্রিয় প্যারামিটার, ন্যাটিভ মাল্টিমোডাল, 100 লক্ষ টোকেন কনটেক্সট
আগামী দুই সপ্তাহ আগে, প্রথম ওপেন-সোর্স 975B Inkling চালু হয়েছিল এবং এটি এআই সম্প্রদায়ে বড় ঝলক তুলেছিল।
ইংকলিং-স্মল শুধু চারটির একভাগ পরিমাণ ব্যবহার করে সরাসরি 'ট্রিলিয়ন ভাই' এর পারফরম্যান্স ছাড়িয়ে গেছে।
ARC-AGI-2-এ, Inkling-Small ওপেন-সোর্স SOTA আপডেট করেছে
এই কয়দিনে থিংকিং মেশিনসের গল্প অত্যন্ত উত্তেজনাপূর্ণ ছিল।
দুই দিন পরেই সহ-প্রতিষ্ঠাতা ওয়াং লির পদত্যাগের ঘোষণা দেওয়ার পর, ওপেনএআই তাঁর ফিরে আসার নিশ্চিতকরণ করেছে—যিনি 'রিকার্সিভ সেলফ-ইম্প্রুভমেন্ট' (RSI) এর উপর কাজ করছেন।
তৃতীয় দিনেই, একজন কী টিম মেম্বার হারানোর পরেও, কোম্পানিটি সরাসরি নতুন মডেলের "ফুল ওয়েট" প্রকাশ করে।
নতুন Inkling-Small চালু, 276B ট্রিলিয়নকে পরাজিত করে
অফিসিয়াল ব্লগে, Inkling-Small হল একটি MoE আর্কিটেকচারের মডেল, যার মোট প্যারামিটার 2760 বিলিয়ন এবং প্রতিবার ইনফারেন্সে 120 বিলিয়ন সক্রিয় হয়।
প্রথম প্রজন্মের Inkling-এর তুলনায় আকার সরাসরি চতুর্থাংশে সংকুচিত হয়েছে।
পাইটর্চের মহান বিশেষজ্ঞ হরেস হি যেমন বলেছেন, 'Inkling-Small-এর জন্য পুরো গ্রামের সহায়তা দরকার হয় না, শুধু আগের প্রজন্মের প্রযুক্তি ব্যবহার করলেই চলে।'
সবচেয়ে বেশি কঠোর বিষয় হলো, যদিও আকার ছোট হয়েছে, তবুও সমগ্র ক্ষমতা উল্লেখযোগ্যভাবে বৃদ্ধি পেয়েছে।
গণিত, যুক্তিবিদ্যা, এজেন্ট কোডিং এবং মাল্টিমোডাল বেঞ্চমার্কে, Inkling-Small Inkling এবং DeepSeek V4 Flash-এর সমান বা তার উপরে।
HLE, Terminal-Bench, IFBench এই তিনটি মূল মেট্রিক্সে—Inkling-Small প্রতি FLOP-এর জন্য Inkling-এর চেয়ে বেশি পারফরম্যান্স দেয়।
দেখা যাচ্ছে যে, Inkling-Small-এর কার্ভটি সম্পূর্ণরূপে Inkling-এর উপরে চাপা পড়ে আছে।
মাল্টিমোডাল দিকেও প্রায় পিছিয়ে পড়েনি, গ্রাফিক্স বুঝতে পারা, দৃশ্যমান যুক্তি, শব্দ বুঝতে পারা, দীর্ঘ অডিও যুক্তি—Inkling-Small মূল সংস্করণের সাথে "প্রায়" সমান পারফরম্যান্স দেখিয়েছে, কিন্তু খরচ অনেক কম।
অন্যান্য বেঞ্চমার্ক ফলাফল নিম্নরূপ:
একটি মডেল যার আকার মাত্র এক-চতুর্থাংশ, তা তার বড় ভাইয়ের চেয়ে ইনফারেন্স এবং এজেন্ট টাস্কে বেশি কার্যকর।
পোস্ট-ট্রেনিং ডিটেইলস সম্পূর্ণরূপে প্রকাশিত
কিভাবে এটি করবেন তা অফিসিয়ালরা খুব বিস্তারিতভাবে লিখেছেন, মূলত দুটি ধাপ।
ইন্কলিং-স্মলের ট্রেনিং শুরু হয়েছিল ইন্কলিং-এর চেয়ে পরে, তাই এটি আগের রাউন্ডে পা দিয়েছিল এমন সব সমস্যা গ্রহণ করেছিল—
প্রি-ট্রেনিং ডেটা অনুপাত পরিবর্তন করা হয়েছে, মেশিন লার্নিং রেসিপি পুনরায় পরিশোধিত হয়েছে।
আরও গুরুত্বপূর্ণ হলো দুটি ধাপ।
প্রথম ধাপ, Inkling ব্যবহার করে অন-পলিসি ডিস্টিলেশন করুন, একটি প্রিভিউ চেকপয়েন্ট তৈরি করুন।
দ্বিতীয় ধাপে, এই চেকপয়েন্ট থেকে শুরু করে দুই সপ্তাহ ধরে স্মার্ট এজেন্ট কোডিং রিইনফোর্সমেন্ট লার্নিং চালিয়েছে। ফলেই পাওয়া গেল “শিষ্য শিক্ষককে ছাড়িয়ে গেল” ফলাফল।
দুই সপ্তাহের মধ্যেই ফারাকটা পুনরায় পূরণ করে এগিয়ে গেল।
এর অর্থ হলো, Thinking Machines একটি পুনরাবৃত্তি মডেল উৎপাদন লাইন সফলভাবে চালু করেছে। প্রথম মডেলটি একটি কাজ, দ্বিতীয় মডেলটি উৎপাদন ক্ষমতার প্রমাণ।
১২ বিলিয়ন সক্রিয়করণই প্রকৃত বিভাজন রেখা
অধিকাংশ ডেভেলপারের জন্য প্রকৃতপক্ষে গুরুত্বপূর্ণ হলো তারা কি এটি ব্যবহার করতে পারবে?
ওরিজিনাল ইন্কলিংয়ের প্রবেশ দরজা খুব উঁচু, BF16 চেকপয়েন্টের ন্যূনতম প্রয়োজনীয়তা হল 2TB সমষ্টিগত ভিডিও মেমোরি—
উদাহরণ কনফিগারেশন হলো, 8টি B300 বা 16টি H200; এমনকি NVFP4 কোয়ান্টাইজড সংস্করণে পরিবর্তন করলেও 600GB এর শুরু হবে।
ইন্কলিং-স্মল এই বাধাটিকে পুরোপুরি নিচের দিকে টেনে নিয়েছে।
LMSYS-এর বক্তব্য সরাসরি: 276B মোট প্যারামিটার এবং 12B সক্রিয় প্যারামিটার হল রিইনফোর্সমেন্ট লার্নিং-এর আদর্শ বিন্দু, যেখানে LoRA এবং ফুল-প্যারামিটার ট্রেনিং উভয়ই 'অর্জনযোগ্য' হয়ে উঠেছে।
আগে শুধুমাত্র বড় কোম্পানিগুলি মডেল কাস্টমাইজেশন করতে পারত, এখন একটি মধ্যম আকারের দলও এটিকে নিজস্ব করে ট্রেন করার সুযোগ পাচ্ছে।
পরীক্ষামূলক পরিমাপ দেখায় যে, 8টি B200, TP8, NVFP4, ব্যাচ সাইজ 1 এর একই পরিবেশে, SGLang ব্যবহার করে Inkling-Small চালানোর সময় DSparK চালু করলে 648 tok/s ডিকোডিং হয়, এবং বন্ধ রাখলেও 288 tok/s হয়।
ছয়জন প্রতিষ্ঠাতা থেকে চারজন চলে গেছেন, মডেলটি দ্রুত উন্নত হচ্ছে
গত বছর ফেব্রুয়ারিতে, থিংকিং মেশিনস একটি 'ওপেনএআই ড্রিম টিম' ছয় সদস্যের তালিকা নিয়ে অসাধারণ শুরু করে:
মিরা মুরাটি, জন শুলম্যান, ব্যারেট জোফ, ওয়াং লি, অ্যান্ড্রু টুলোচ, লুক মেটজ।
তখন তারা 2 বিলিয়ন ডলারের সীড ফান্ডিং এবং 12 বিলিয়ন ডলারের মূল্যায়ন নিয়ে একটি অসাধারণ স্ক্রিপ্ট নিয়েছিল।
কে ভাবতে পারত যে এই বছরের জানুয়ারিতে ৫০০ বিলিয়ন ডলার মূল্যায়নের ফান্ডিং রাউন্ড ব্যর্থ হয়ে পরিবর্তনের শুরু হয়েছিল।
এখন, ষাট দলের মধ্যে কেবল মুরাতি এবং শুলম্যান অবশিষ্ট রয়েছেন।
আরও আকর্ষণীয় বিষয় হলো, চারজন ব্যক্তির মধ্যে জোফ এবং মেৎস ক্রমাগত ওপেনএআই-এ ফিরে এসেছেন, এখন ওয়াং লি তৃতীয় ব্যক্তি হয়েছেন।
একটি কোম্পানি যা OpenAI-এর "বিদ্রোহীদের" দ্বারা প্রতিষ্ঠিত হয়েছিল, কিন্তু এর মূল দল চূড়ান্তভাবে OpenAI-এর মাধ্যাকর্ষণ ক্ষেত্র থেকে বাঁচতে পারেনি।
কিন্তু আসলে নাটকীয় হয়ে উঠেছিল দলটির অস্থিরতার সময় প্রতিক্রিয়া।
জুলাই 15, 17 মাস ধরে নীরব থাকার পর, Thinking Machines তার প্রথম বড় মডেল Inkling প্রকাশ করেছে।
দুই সপ্তাহেরও কম সময়ের মধ্যে, ওয়াং লি তার পদত্যাগের ঘোষণা দেন; মাত্র তিন দিন পরে, দ্বিতীয়টি পূর্ণ ওজনযুক্ত ওপেন-সোর্স মডেল চালু হয়।
দক্ষতা ত্বরান্বিতভাবে হারিয়ে যাচ্ছে, মডেলগুলি ত্বরান্বিতভাবে এগিয়ে যাচ্ছে।
এই দুটি বিপরীতমুখী বক্ররেখা এআই শিল্পের সবচেয়ে প্রতিনিধিত্বকারী দৃশ্য হয়ে উঠেছে।
এটাই হয়তো ASI-এর দিকে যাওয়ার একমাত্র পথ: যতই কম মানুষ থাকুক না কেন, মেশিনের চাকা শুধু আরও দ্রুত ঘুরতে থাকবে।
থিংকিং মেশিনস ইন্কলিং-স্মল ওপেন-সোর্স মডেল প্রকাশ করেছে, যার মোট প্যারামিটার 2760 বিলিয়ন এবং সক্রিয় প্যারামিটার 120 বিলিয়ন, যা MoE আর্কিটেকচার এবং ন্যাটিভ মাল্টিমোডাল ডিজাইন ব্যবহার করে। এই মডেলটি শুধুমাত্র প্রথম প্রজন্মের ইন্কলিং-এর চারভাগের একভাগ আকার ব্যবহার করেই গণিত, যুক্তি এবং এজেন্ট কোডিংয়ের মতো বেঞ্চমার্কে এটি পরাজিত করেছে। ডিস্টিলেশন এবং দুই সপ্তাহের রিইনফোর্সমেন্ট লার্নিং ট্রেনিংয়ের মাধ্যমে এটি পারফরম্যান্সের উপরে চলে আসে, যা যুক্তির বাধা ব্যাপকভাবে কমিয়েছে এবং মধ্যম দলগুলিকেও মডেলকে কাস্টমাইজ করতে সক্ষম করেছে। যদিও ছয়জন সহ-প্রতিষ্ঠাতা চলে গেছেন, দলটি অস্থিরতার মধ্যেও উচ্চ頻率-এর প্রকাশনা গতি বজায় রেখেছে।সোর্স: নিউ জ্ঞান