সিরেব্রাস সিস্টেমস এখন মুনশট এআই-এর কিমি কে2.6, একটি 1 ট্রিলিয়ন-প্যারামিটার ওপেন-ওয়েট মিক্সচার-অফ-এক্সপার্টস মডেলকে 981 আউটপুট টোকেন প্রতি সেকেন্ডে সরবরাহ করছে। এই সংখ্যাটি, যা আর্টিফিশিয়াল অ্যানালিসিস দ্বারা স্বাধীনভাবে পরীক্ষিত হয়েছে, পরবর্তী সেরা GPU ক্লাউড প্রোভাইডারের তুলনায় 6.7 গুণ দ্রুততা নির্দেশ করে।
প্রেক্ষাপটে, মধ্যকার উপস্থাপনা প্রদানকারী প্রায় ২৩ গুণ ধীর।
ব্যবহারিকভাবে সংখ্যাগুলি কীভাবে দেখায়
একটি প্রতিনিধিত্বকারী এজেন্টিক কোডিং ওয়ার্কলোডে, 10,000 ইনপুট টোকেন এবং 500 আউটপুট টোকেন সহ, সিরিবাস-সক্ষম সেটআপ 5.6 সেকেন্ডে একটি সম্পূর্ণ প্রতিক্রিয়া প্রদান করেছে।
অফিসিয়াল কিমি এন্ডপয়েন্টে একই কাজ করতে ১৬৩.৭ সেকেন্ড সময় লাগে। এটি এন্ড-টু-এন্ড ল্যাটেন্সিতে ২৯x উন্নতি।
কিমি কে ২.৬ মডেলটি বুঝতে মূল্যবান। মুনশট এআই দ্বারা উন্নয়ন করা এবং ২০২৬ সালের ২০ এপ্রিলে প্রকাশিত, এটি মাল্টিমোডাল এবং এজেন্টিক ক্ষমতা সম্পন্ন। যদিও মোট প্যারামিটার সংখ্যা ১ ট্রিলিয়নে পৌঁছায়, MoE আর্কিটেকচারের কারণে যেকোনো সময় কেবলমাত্র ৩২ বিলিয়ন প্যারামিটারই সক্রিয় থাকে।
কেন ওয়েফার-স্কেল আর্কিটেকচার গণিতকে পরিবর্তন করে
সিরিব্রাসের মূল প্রযুক্তি হল ওয়াফার-স্কেল ইঞ্জিন, যা একটি সম্পূর্ণ সিলিকন ওয়াফার বিশিষ্ট একটি চিপ। প্রচলিত চিপগুলি ওয়াফার থেকে ছোট ছোট ডাই-এ কাটা হয়। সিরিব্রাস কাটার প্রক্রিয়াটি এড়িয়ে চলে এবং সম্পূর্ণটিকেই ব্যবহার করে।
সিরেব্রাস দাবি করে যে এটি NVIDIA-এর NVLink-এর চেয়ে ২০০ গুণ বেশি ব্যান্ডউইথ প্রদান করে, যা ডেটা সেন্টার ক্লাস্টারে GPU-গুলিকে সংযুক্ত করার জন্য ব্যবহৃত ইন্টারকানেক্ট প্রযুক্তি। বড় মডেলগুলিতে ইনফারেন্স চালানোর সময়, বাধা প্রায় সবসময় মেমোরি ব্যান্ডউইথ, নয় কাঁচা কম্পিউট। প্রতিটি জেনারেট করা টোকেনের জন্য ওজনগুলিকে মেমোরি থেকে পড়তে হয় এবং প্রসেসরগুলিতে প্রেরণ করতে হয়।
একটি সাম্প্রতিকভাবে পাবলিক কোম্পানি যার কিছু প্রমাণ করার প্রয়োজন
সিরেব্রাস ২০২৬ সালের মে মাসে ৯৫ বিলিয়ন ডলার মূল্যায়নে তার আইপিও পূর্ণ করে, যা বছরের সবচেয়ে বড় টেক আইপিও হয়ে ওঠে।
সেকেন্ডে ৯৮১ টোকেনের ফলাফলটি এখন পর্যন্ত এই তত্ত্বের গতির অংশটি টিকে আছে তার সবচেয়ে স্পষ্ট প্রমাণ। সিরিব্রাস এই বেঞ্চমার্কের সাথে বিস্তারিত মূল্য তুলনা প্রকাশ করেনি।
একটি প্রমুখ চীনা এআই ল্যাবের সবচেয়ে উল্লেখযোগ্য ওপেন-ওয়েট মডেলটি সরবরাহ করে সিরিব্রাস প্রমাণ করছে যে এর হার্ডওয়্যার ডেভেলপারদের বাস্তবিকভাবে ব্যবহার করতে চাওয়া মডেলগুলি পরিচালনা করতে পারে।