ওপেনএআই সিরিব্রাস হার্ডওয়্যারে ৭৫০ টোকেন/সেকেন্ড গতিতে GPT-5.6 Sol প্রকাশ করেছে

【প্রবেশদ্বার】 GPT-5.6-এর যুক্তিসঙ্গত গতি হঠাৎ করে 750 টোকেন/সেকেন্ড! পেশাদার বিশেষজ্ঞরা অভ্যন্তরীণ তথ্য প্রকাশ করেছেন: এটি 100টি ওয়েফারে চলবে। AI চিন্তা থেকে ঝলকানিতে পরিণত হচ্ছে, বাস্তবসময়ের বুদ্ধিমত্তা যুগ আসলেই আসছে?

বিভিন্ন উৎসের অনুমান অনুযায়ী, GPT-5.6 শীঘ্রই সকলের জন্য উন্মুক্ত হবে।

সাম্প্রতিক সময়ে, এই মডেল সম্পর্কে বিভিন্ন অনুমান X-এ ভাইরাল হয়ে উঠেছে।

জুন ২৬, ওপেনএআই পূর্বে নতুন প্রজন্মের GPT-5.6 পরিবার ঘোষণা করেছিল।

এবং অফিসিয়াল ব্লগে একটি বাক্য রয়েছে: ওপেনএআই এই মাসে চিপ বিশেষজ্ঞ সিরিব্রাসের কাস্টম হার্ডওয়্যারে নতুন অগ্রণী মডেল—GPT-5.6 Sol চালু করার পরিকল্পনা করছে, যার ইনফারেন্স গতি হলো ভয়ঙ্কর প্রতি সেকেন্ডে ৭৫০ টোকেন!

অর্থাৎ, যে জটিল এজেন্ট অপারেশনগুলির জন্য আগে কয়েক মিনিট অপেক্ষা করতে হত, এখন এক ঝলকেই সেগুলি সম্পন্ন হয়ে যায়।

প্রকৃতপক্ষে, ওপেনএআই হার্ডওয়্যার এবং মডেল সহ-ডিজাইনে বিপ্লবী পদক্ষেপ নিয়েছে।

অল্প আগে ইতিহাসের প্রথম স্ব-উন্নয়নকৃত AI ইনফারেন্স চিপ Jalapeño-এর প্রকাশের মাধ্যমে, আমরা অনুভব করছি যে OpenAI-এর একটি সম্পূর্ণ স্ট্যাক AI সাম্রাজ্য গড়ে তোলার আকাঙ্ক্ষা রয়েছে।

প্রতি সেকেন্ডে ৭৫০ টোকেন বলতে কী বোঝায়?

মানুষের জন্য, এটি এক সেকেন্ডে প্রায় ৫০০ থেকে ৬০০টি চীনা অক্ষর পড়ে ও আউটপুট দেওয়ার সমতুল্য।

আপনার সামনে এই পাঠ্যটি, GPT-5.6 Sol শুধুমাত্র এক ভাগের কয়েক সেকেন্ডের কম সময়ে তৈরি করে ফেলবে।

X-এ, পরিচিত ডেভেলপার কেলেব শেপার্ড উত্তেজিতভাবে বলেছেন: "এটি আমার সবচেয়ে উত্তেজনাপূর্ণ বিষয়, GPT-5.6 Sol Cerebras-এ চলছে। শুধুমাত্র কোড লেখার গতি বেড়েছে বলে নয়, বরং কম্পিউটার ব্যবহারের গতি একটি মাত্রাগত পরিবর্তন এনেছে। আমরা আর কোনো AI-এর একটি বোতাম ক্লিক করার জন্য দুই মিনিট অপেক্ষা করতে পারব না।"

দীর্ঘকাল ধরে, যদিও বড় মডেলগুলি দিন দিন বেশি বুদ্ধিমান হয়ে উঠছে, তবুও 'রিজনিং ল্যাটেন্সি' হল রিয়েল-টাইম ইন্টারঅ্যাকশনের জন্য একাধিক ধাপের Agent টাস্কগুলির বাস্তবায়নের সবচেয়ে বড় বাধা।

যখন মডেল এত বড় হয়ে যায় যে এতে কোটি কোটি প্যারামিটার থাকে, তখন পারস্পরিক যোগাযোগে (NVLink ইন্টারকানেকশন) প্রচলিত GPU ক্লাস্টারগুলি প্রায়শই ভৌত বাধার সম্মুখীন হয়।

এবং ওপেনএআইয়ের উত্তর হল: মডেলকে হার্ডওয়্যারের সাথে খাপ খাইয়ে নেওয়ার পরিবর্তে হার্ডওয়্যার এবং মডেলকে একীভূত করুন।

ঔপনিবেশিক প্রকাশিত প্রাথমিক তথ্য অনুযায়ী, GPT-5.6 Sol জুলাইয়ে খুব সীমিত পরিসরে নির্দিষ্ট গ্রাহকদের জন্য উন্মুক্ত হবে, এবং উৎপাদন ক্ষমতা বৃদ্ধির সাথে সাথে ধীরে ধীরে বিস্তারিত হবে।

যেমন অনলাইনে অনুমান করা হচ্ছিল, এটি একটি অত্যন্ত ব্যয়বহুল সেবা, যা গতির জন্য প্রস্তুত শীর্ষ কোম্পানিগুলির জন্য তৈরি করা হয়েছে।

যখন 750 টোকেন/সেকেন্ডের বার্তা প্রকাশিত হয়, তখন LLM Arena-এর প্রধান পিটার গস্টেভ একটি প্রশ্ন তুলে ধরেন যা সবাইকে বিস্মিত করেছিল:

GPT-5.6 Sol কেরাব্রাসে কী ঘটছে? আমার জানা মতে, এটি আগের GPT-5.3-Codex-Spark-এর মতো ভিজুয়াল এবং কনটেক্সট বিহীন অসম্পূর্ণ সংস্করণ নয়, বরং সম্পূর্ণ একই মডেল (ভিজুয়াল সহ মাল্টিমডাল ক্ষমতা সহ)।

কিন্তু আমার বোঝার মতো, সিরেব্রাসের একটি চিপে সর্বোচ্চ 700 বিলিয়ন থেকে 900 বিলিয়ন প্যারামিটারের মডেল ফিট করা যায়। তাহলে, কি মডেলটি ছোট হয়ে গেল? নাকি আমি অজানা কোনো নতুন চিপ আছে? নাকি কোনো নতুন মাল্টি-চিপ সহযোগিতা প্রযুক্তি?

এই প্রশ্নটি তাত্ক্ষণিকভাবে অনেক ইন্টারনেট ব্যবহারকারীর মধ্যে আলোচনা শুরু করে।

কেউ কেউ এটিকে "মধ্যরাতে ফরেনসিক লেভেলের চিপ অডিট করা" বলে উপহাস করেছেন, এবং বলেছেন, "যদি এটি সত্যিই একই সম্পূর্ণ মডেল হয়, তাহলে এটি ঠিক তখনই মতো, যখন কেউ একটি সুপার ক্রুজারকে একটি কাচের বোতলের মধ্যে জোর করে ঢুকিয়েছে, আর তোমাকে বলেননি কিভাবে।"

শীঘ্রই, অভিজ্ঞ প্রযুক্তিগত বিশেষজ্ঞ ব্লেস গুডসন একটি অত্যন্ত প্রামাণিক কঠোর বিশ্লেষণ প্রদান করেছেন—

GPT-5.6 Sol শুধু একটি চিপ নয়, বরং 70 থেকে 100টি Cerebras ওয়েফার-লেভেল চিপ দিয়ে তৈরি!

চরম ডিপ্লয়েমেন্ট সৌন্দর্য: "একটি ওয়েফার, একটি নেটওয়ার্ক"

শিল্প বিশেষজ্ঞদের অনুমান অনুযায়ী, GPT-5.6 Sol-এর স্পেসিফিকেশন অত্যন্ত বিশাল:

• মোট প্যারামিটার সংখ্যা: প্রায় 3 ট্রিলিয়ন
• এক্টিভেশন প্যারামিটার: প্রায় 150 বিলিয়ন
• নেটওয়ার্ক লেয়ার: প্রায় 70 থেকে 90 লেয়ার

স্বাস্থ্যকর রিজনিং সার্ভিস ফিচার অর্জনের জন্য, ওপেনএআই এবং সিরিব্রাস একটি অত্যন্ত ব্যয়বহুল এবং আশ্চর্যজনক ডিপ্লয়মেন্ট পদ্ধতি গ্রহণ করেছে—প্রতিটি নিউরাল নেটওয়ার্ক লেয়ারকে একটি পুরো Cerebras ওয়াফার উপর আলাদাভাবে ডিপ্লয় করা।

একজন ওয়েব ব্যবহারকারী যেমন উল্লেখ করেছেন, পর্যায়গুলি বাড়িয়ে যদি আপনার পর্যাপ্ত সংখ্যক ওয়েফার থাকে যা আপনি একসাথে সংযুক্ত করতে পারেন, তবে তাত্ত্বিকভাবে আপনি যেকোনো আকারের মডেলে স্কেল করতে পারবেন, যা Token জেনারেশন গতির উপর প্রভাব ফেলবে না, শুধুমাত্র TTFT-এর উপর হালকা প্রভাব ফেলতে পারে।

অসাধারণ পুনর্গঠন—বাধ্য হয়ে হালকা KV Cache তৈরি

তবে, কেবল প্রচুর ওয়াফার থাকাই যথেষ্ট নয়। সিরিব্রাস চিপ আর্কিটেকচারের একটি প্রধান বৈশিষ্ট্য হল প্রচুর অন-চিপ SRAM (স্ট্যাটিক র‍্যান্ডম অ্যাক্সেস মেমোরি) থাকা, যা অত্যন্ত দ্রুত কিন্তু ক্ষমতা অত্যন্ত মূল্যবান।

যদি OpenAI গতকালের মতো GPT-5.6 Sol-এ প্রচলিত ভারী KV ক্যাশ ব্যবহার করে, তাহলে এই মহাক্ষয়কারী SRAM ব্যান্ডউইথ মুহূর্তে শেষ হয়ে যাবে।

এটি বর্তমান সহযোগিতার সবচেয়ে গুরুত্বপূর্ণ কৌশলগত পরিবর্তনের দিকে পরিচালিত করে: নির্দিষ্ট হার্ডওয়্যারের উপর ভিত্তি করে মডেল পুনর্গঠন।

ব্লেস গুডসন বলেছেন যে যেহেতু ওপেনএআই হার্ডওয়্যার সহ-ডিজাইনে গভীরভাবে জড়িত, তারা প্রায় নিশ্চিতভাবে প্রচলিত মনোযোগ মেকানিজম ক্যাশিং পদ্ধতি ত্যাগ করে আরও উন্নত হালকা ডিজাইনের দিকে এগিয়েছে।

সবচেয়ে সম্ভাব্য পরিকল্পনাগুলি হল:

DeepSeekV4 এর আর্কিটেকচারের মতো: ক্যাশ ব্যবহার অত্যন্ত অপ্টিমাইজড।

মিক্সড SSM ডিজাইন: ম্যাম্বা সহ লিনিয়ার টাইম কমপ্লেক্সিটির মডেলগুলিকে ট্রান্সফরমারের সাথে একীভূত করে KV ক্যাশের ঐতিহ্যবাহী বোঝা সম্পূর্ণভাবে বাদ দিন।

এছাড়াও, পরিচিত ডেভেলপার জন ল্যাম একটি অসাধারণ অনুমান প্রস্তাব করেছেন— অ্যাটেনশন এবং FFN ডিকাপলড।

তিনি অনুমান করেন যে, OpenAI সম্ভবত মনোযোগ গণনার জন্য প্রাচীন GPU ব্যবহার করছে এবং ফিডফরওয়ার্ড নিউরাল নেটওয়ার্ক অংশের গণনা বাড়িয়ে দিতে Cerebras ওয়াফারের প্রচুর পরিমাণ ব্যবহার করছে।

এটি কোনো অন্ধকার অনুমান নয়। ইন্টারনেট ব্যবহারকারীরা শীঘ্রই Cerebras-এর ব্লগে Kimi K2.6-এর ডিপ্লয়েমেন্ট বিস্তারিত খুঁজে পেয়েছে:

Cerebras, CS-3 সিস্টেমে Kimi K2.6-এর মূল ওজন 4-বিটে সংরক্ষণ করে এবং সঠিকতা বজায় রাখতে 16-বিট ফ্লোটিং পয়েন্টে গণনা করে। ওজনগুলি একাধিক ওয়াফারে বিতরণ করা হয় এবং এক্টিভেশন মানগুলি ওয়াফারের মধ্যে স্ট্রিম করা হয়। স্তরের মধ্যে সম্পূর্ণ সংযোগ যোগাযোগ সম্পূর্ণরূপে ওয়াফারের নেটওয়ার্ক স্ট্রাকচারের উপর নির্ভর করে, যার ব্যান্ডউইথ Nvidia NVL72-এর NVLink-এর 200 গুণেরও বেশি! কাস্টম অপারেটর এবং স্পিউলেটিভ ডিকোডিংয়ের সাথে মিলিয়ে, তারা ট্রিলিয়ন-প্যারামিটার MoE মডেলকে প্রায় 1000টোকেন/সেকেন্ডে চালাতে পারে।

অফিসিয়াল স্পেসিফিকেশন অনুযায়ী, বিপ্লবী CS-3 সিস্টেম শুধু অতুলনীয় গতিতেই নয়, একটি একক লজিক্যাল ডিভাইসে ২৪ ট্রিলিয়ন প্যারামিটারের মডেল সহজেই স্কেল করতে পারে!

যেমন কেউ অবাক হয়ে বলেছিল: "যদি এটি সত্যিই Cerebras-এ চলছে Sol-এর পূর্ণাঙ্গ সংস্করণ হয়, তাহলে আজ রাতেই সবার পূর্বনির্ধারিত মডেল আকারের সীমানা ভেঙে দেওয়া হয়েছে।"

সত্যিকারের ট্রাম্প কার্ড—OpenAI-এর নিজস্ব চিপ «Jalapeño» প্রথম প্রকাশ

এবং ঠিক এর আগে, OpenAI ঐতিহাসিকভাবে প্রথম নিজস্ব ডিজাইন করা চিপ—জালাপেনিও প্রকাশ করেছে।

এই চিপের উদ্ভাবন সরাসরি ব্যাখ্যা করে যে OpenAI এবং Cerebras-এর সহযোগিতার গভীর যুক্তি কী: তৃতীয় পক্ষের শীর্ষস্থানীয় ইনফারেন্স হার্ডওয়্যারের উপর অনুসন্ধানের মাধ্যমে, OpenAI সম্পূর্ণরূপে বিশেষায়িত ইনফারেন্স আর্কিটেকচারের মূল বিষয় এবং মূল্য বুঝতে পেরেছে এবং এটিকে নিজস্ব নিয়ন্ত্রণাধীন ভিত্তি প্ল্যাটফর্মে রূপান্তরিত করেছে।

জালাপেঞ্জো মেক্সিকান পেপার মধ্যে সবচেয়ে মৃদু তীব্রতার একটি প্রজাতি। ওপেনএআই এটিকে নাম দেওয়ার মাধ্যমে স্পষ্টভাবে বোঝাচ্ছে: এটি শুধুমাত্র একটি অ্যাপেটাইজার।

এই চিপটি বড় মডেল ইনফারেন্সের জন্য কাস্টম এসিসি হিসাবে ডিজাইন করা হয়েছে। প্রথম লাইনটি আঁকা থেকে শুরু করে, এর প্রতিটি ট্রানজিস্টর শুধুমাত্র একটি জিনিসের জন্য অপ্টিমাইজড: বড় মডেল চালানো।

অপ্রত্যাশিতভাবে, Jalapeño শুধুমাত্র OpenAI-এর নিজস্ব মডেল চালায় না, বরং এর আর্কিটেকচার পুরো শিল্পের LLM-এর সাথে সামঞ্জস্যপূর্ণ, যা এটির বিশাল প্ল্যাটফর্মের আকাঙ্ক্ষা প্রকাশ করে।

এছাড়াও, এই চিপটির ডিজাইন এবং প্রস্তুতি মাত্র 9 মাসে শেষ হয়েছে।

এর পিছনে রয়েছে অত্যন্ত শক্তিশালী শিল্প জোট:

আর্কিটেকচার পরিচালনা: ওপেনএআই সরাসরি বেসিক আর্কিটেকচার ডিজাইন করেছে।

চিপ বাস্তবায়ন এবং নেটওয়ার্ক কানেক্টিভিটি: চিপ বড় কোম্পানি ব্রডকম শক্তিশালী বাস্তবায়ন ক্ষমতা এবং নেটওয়ার্ক কানেক্টিভিটি সমর্থন প্রদান করে।

সিস্টেম ইন্টিগ্রেশন: সেলেস্টিকা চূড়ান্ত বোর্ড তৈরি এবং র্যাক-লেভেল ভৌত ইন্টিগ্রেশনের দায়িত্ব পালন করে।

মডেল নিজে ট্রেন করুন, চিপ নিজে ডিজাইন করুন, ইনফারেন্স নিজে অপ্টিমাইজ করুন, ডিপ্লয়মেন্ট নিজে কন্ট্রোল করুন।

প্রকৃতপক্ষে, ওপেনএআইয়ের লক্ষ্য হল একটি বিশাল ফুল-স্ট্যাক এআই সাম্রাজ্য।

কিন্তু ওপেনএআইয়ের আকাঙ্ক্ষা অ্যাপল এবং গুগলের চেয়েও পাগলামি, তাদের একটি অতীতে অদ্ভুত সুপার ফ্লাইওয়েল রয়েছে: এআই ব্যবহার করে এআই ইনফ্রাস্ট্রাকচার তৈরির গতি বাড়ানো, এবং তারপর তৈরি করা শক্তিশালী ইনফ্রাস্ট্রাকচার ব্যবহার করে আরও শক্তিশালী এআই চালানো।

OpenAI-এর ঘোষিত বৃহৎ পরিকল্পনা অনুযায়ী, প্রথম GW স্তরের সুপার ডেটা সেন্টারগুলি 2026 সালের শেষের দিকে মাইক্রোসফট সহ প্রধান অংশীদারদের সাথে একত্রে স্থাপন করা হবে।

একটি মধ্যম আকারের শহরের সম্পূর্ণ বিদ্যুৎ চাহিদা জালাপেঞ্জো এবং পরবর্তী প্রজন্মের পেপার চিপের জন্য ইনফারেন্স র্যাক চালানোর জন্য ব্যবহার করা হবে।

প্রস্তুত হন, খুব শীঘ্রই, আমরা GPT-5.6 Sol-কে Cerebras উইফারে 750 Tokens/s গতিতে দৌড়াতে দেখব, যা প্যারামিটার এবং ইনফারেন্স গতির ভৌত শ্রেণিকে ভাঙ্গবে।

প্রসঙ্গ: https://x.com/bleysg/status/2073937651150029084

এই পোস্টটি ওয়েইচ্যাট গ্রুপ "নিউ জ্ঞান মহাকাশ" থেকে এসেছে, লেখক: ASI প্রতিজ্ঞা; সম্পাদক: এনিয়াস