ওপেনএআইয়ের জালাপেনিও চিপ কী মেট্রিক্সে এনভিডিয়া ব্ল্যাকওয়েলকে ছাড়িয়ে গেছে

লেখক: ডং জিং

উৎস: ওয়াল স্ট্রিট ভিজন

OpenAI-এর প্রথম স্ব-উন্নয়নকৃত চিপ Jalapeño হঠাৎ করে প্রকাশিত হয়েছে, যা AI চিপ শিল্পের পুরানো কাঠামোকে অবিশ্বাস্য গতিতে বদলে দিয়েছে—এটি শুধু একটি পণ্য প্রকাশ নয়, বরং একটি সংকেত: AI এখন চিপের ডিজাইনের পদ্ধতিকেই পুনর্গঠন করছে।

ওয়াল স্ট্রিট জার্নাল আর্টিকেল অনুযায়ী, বুমবের ২৫ আগস্টের প্রতিবেদন অনুযায়ী, ওপেনএআই জানিয়েছে যে Jalapeño চিপটি ইউনিট পাওয়ার খরচে প্রক্রিয়াকরণযোগ্য AI কাজ এবং প্রতিক্রিয়ার গতি—এই দুটি মূল মাপদণ্ডে নভেডিয়া GB300-এর চেয়ে এগিয়ে। এই চিপটি ওপেনএআই এবং Broadcom-এর সহযোগিতায় তৈরি করা হয়েছে, যা AI ইনফারেন্স পর্যায়ের জন্য বিশেষভাবে ডিজাইন করা হয়েছে, এবং এটি এই বছরের শেষের দিকেই বাস্তব ব্যবহারে আসতে পারে। ওপেনএআই-এর চিপ প্রধান রিচার্ড হো বলেছেন, Jalapeño 700ওয়াটের কম বিদ্যুৎ খরচেই শক্তিশালী পারফরম্যান্স দিতে পারে, যা ডেটা সেন্টারের বিদ্যুৎখরচকে উল্লেখযোগ্যভাবে কমিয়ে দেবে।

সেমিকন্ডাক্টর গবেষণা প্রতিষ্ঠান SemiAnalysis-এর প্রকাশিত তথ্য অনুযায়ী, এই চিপটির ডিজাইন শুরু থেকে ফ্লাশ প্রক্রিয়া সম্পন্ন হওয়ার সময় মাত্র প্রায় 16 মাস, এবং এর মূল কো-ওয়োস (CoWoS) প্যাকেজিং ফ্লাশ পয়েন্টটি 2025 সালের নভেম্বরে সম্পন্ন হয়েছে, যা এখন থেকে মাত্র 9 মাস আগে, যা শিল্পের সাধারণ 18 থেকে 36 মাসের চেয়ে অনেক কম।

সেমি অ্যানালিসিসের গবেষকরা প্রত্যক্ষভাবে ওপেনএআই ল্যাবে গিয়ে তাদের নিজস্ব বেঞ্চমার্ক স্যুট InferenceX ব্যবহার করে Jalapeño-এর পরীক্ষা করেন এবং সরাসরি উপসংহারে পৌঁছান: এই চিপটি প্রতি ওয়াট পারফরম্যান্স (perf/W) মেট্রিকে তাদের আগের পরীক্ষিত সমস্ত নভেডিয়া, এএমডি এবং গুগল চিপকে পরাজিত করেছে।

এর চেয়েও বেশি গুরুত্বপূর্ণ হলো যে, এই ফলাফলটি Jalapeño-এর জন্য স্পেকুলেটিভ ডিকোডিং, প্রিফিলিং এবং ডিকোডিং-এর বিচ্ছিন্ন ডিপ্লয়মেন্টের মতো অপ্টিমাইজেশনগুলি এখনও সক্রিয় না হওয়ার অবস্থায় অর্জিত হয়েছে, যখন তুলনামূলকভাবে অন্যান্য চিপগুলি তাদের নিজস্ব সর্বোত্তম কনফিগারেশনগুলি সক্রিয় করেছে।

এটাই বোঝা যাচ্ছে যে প্রখ্যাত সেমিকন্ডাক্টর বিশ্লেষক ডাইলান প্যাটেলও স্পষ্টভাবে বলেছেন, “শুধু ব্ল্যাকওয়েল নয়, নভেডিয়া রুবিন চিপও অতিক্রম করে গেছে!”

বিশ্লেষণ অনুসারে, এই ফলাফল নভেডিয়ার বাজার অবস্থানের প্রতি সরাসরি চ্যালেঞ্জ জানিয়েছে এবং বাজারকে এআই চিপের প্রতিযোগিতার পরিস্থিতি পুনর্বিবেচনা করতে বাধ্য করেছে।

সেমিঅ্যানালিসিসের পরীক্ষার ফলাফল অনুযায়ী, জালাপেনিও যুক্তি দক্ষতায় উল্লেখযোগ্য সুবিধা প্রদর্শন করে।

GPT-OSS 120B মডেলে, Jalapeño প্রতি সেকেন্ডে প্রায় 1459 টোকেন আউটপুট করে, যেখানে NVIDIA GB200 মাত্র 535 টোকেন; এন্ড-টু-এন্ড ল্যাটেন্সির ক্ষেত্রে, Jalapeño একটি টাস্ক সম্পন্ন করতে মাত্র 1.65 সেকেন্ড সময় নেয়, যখন GB300 প্রায় 6 সেকেন্ড নেয়, যা 3.6 গুণ পার্থক্য। উচ্চ-ইন্টারঅ্যাকশন সিনারিওতে, GB300 যখন তার সর্বোচ্চ ডিকোডিং গতি (প্রতি সেকেন্ডে 169 টোকেন) এর দিকে ঠেলে দেওয়া হয়, Jalapeño-এর থ্রুপুট তার 104.3 গুণ।

এক মেগাওয়াট প্রতি সেকেন্ডে টোকেন আউটপুটের মাধ্যমে ডেটা সেন্টারের শক্তি দক্ষতা পরিমাপ করা হয়, যেখানে Jalapeño GPT-OSS মডেলে প্রায় 5.3 কোটি টোকেন/MW/s অর্জন করে, যখন GB200 NVL72 শুধুমাত্র প্রায় 1 কোটি।

সেমি অ্যানালিসিস বলেছে, এই সূচকটি মূলত প্রতি জুল উত্পাদিত টোকেনের সংখ্যার সমান, যা ডেটা সেন্টারের আয়ের সীমানা নির্ধারণ করে—বর্তমানে ক্ষমতা বিদ্যুৎ সীমাবদ্ধ হওয়ার কারণে, এই মাত্রার সুবিধা বিশেষভাবে গুরুত্বপূর্ণ।

সিমিঅ্যানালিসিস অনুসারে, জলপেনিও এর প্রতি চিপ প্রতি ঘন্টার মোট মালিকানা খরচ পাওয়ার, হিট ডিসিপেশন এবং নেটওয়ার্ককে সম্পূর্ণভাবে বিবেচনায় নিয়ে প্রায় 1.56 ডলার, যা H100 এর 1.55 ডলারের সাথে প্রায় সমান, যেখানে নভেডিয়া ভেরা রুবিনের খরচ 3.61 ডলার।

এটি উল্লেখযোগ্য যে, সেমি অ্যানালিসিস কয়েকটি গুরুত্বপূর্ণ সংরক্ষণ প্রকাশ করেছে।

প্রথমত, পরীক্ষার জন্য ব্যবহৃত মডেলটি বর্তমানের সবচেয়ে উন্নত মডেল নয়; নভিডিয়া এবং এএমডি ইতিমধ্যে বড় স্কেলের মডেলগুলিতে (যেমন DeepSeek V4 Pro, Kimi K3) AgentX স্যুটের ভিত্তিতে ফলাফল প্রকাশ করেছে, যখন Jalapeño এখনও AgentX পরীক্ষা সম্পন্ন করেনি—এই স্যুটটি বহু-চক্র, দীর্ঘ কনটেক্সট ইত্যাদি বাস্তব উৎপাদন পরিস্থিতির কার্যকারিতা আরওভালভাবে প্রতিফলিত করে।

দ্বিতীয়ত, সমানভাবে ন্যায্য তুলনার জন্য ব্ল্যাকওয়েলের পরিবর্তে HBM4 ব্যবহার করা নভিডিয়া ভেরা রুবিনকে বিবেচনা করা উচিত; ভেরা রুবিনের প্রতি ওয়াট পারফরম্যান্স GB200 NVL72 এর চেয়ে প্রায় 5.4 গুণ বেশি, এবং জালাপেনিওর সাথে তুলনা করলে, উভয়েরই প্রতি টোকেন মোট মালিকানা খরচ (TCO) প্রায় সমান।

তৃতীয়ত, জালাপেঞ্জো এখনও প্রকৌশল নমুনা পর্যায়ে রয়েছে, এবং বড় পরিমাণে উৎপাদন ২০২৭ সালে ধীরে ধীরে শুরু হবে।

জালাপেঞ্জো এত দ্রুত ডেভেলপমেন্ট সম্পন্ন করতে পারার প্রধান কারণগুলির মধ্যে একটি হল এআই টুলগুলির গভীর হস্তক্ষেপ। সেমি অ্যানালিসিসের প্রকাশ অনুযায়ী, ওপেনএআই চিপ ডিজাইনের প্রক্রিয়ায় অনেকগুলি অভ্যন্তরীণ এআই মডেল ব্যবহার করেছে, যার মধ্যে বাইরের বিশ্বের দৃষ্টি আকর্ষণকারী GPT-Astra অন্তর্ভুক্ত।

সোশ্যাল মিডিয়া প্ল্যাটফর্ম X-এর ব্যবহারকারী অ্যান্ড্রু কার্রান ওপেনএআইয়ের তথ্য উদ্ধৃত করে বলেছেন, GPT-Astra Jalapeño-এর বিকাশের সমস্ত ধাপে গভীরভাবে অংশগ্রহণ করেছে:

দলটি কোডেক এবং জিপিটি-অ্যাস্ট্রা ব্যবহার করে দুই মাসের মধ্যে জালাপেঞ্জোর প্রোডাকশন পরিকল্পনায় অন্তর্ভুক্ত না থাকা তিনটি ওপেন-সোর্স মডেলকে উচ্চ পারফরম্যান্সের মধ্যে অপটিমাইজ করেছে।

এর অর্থ হলো, এআই শুধু চিপ ডিজাইনকে ত্বরান্বিত করছে না, বরং চিপ দ্বারা সমর্থিত মডেলের পরিসরও দ্রুত বাড়াচ্ছে।

সেমি অ্যানালিসিসের ডেটা এই অবদানকে আরও পরিমাপযোগ্য করে তোলে:

এআই সহায়তায় ডিজাইন করে SIMD ইউনিটের ক্ষেত্রফল 8% কমানো হয়েছে এবং ম্যাট্রিক্স ইঞ্জিনের ক্ষেত্রফল 10% কমানো হয়েছে, যার ফলে টাইমিং এবং শক্তি খরচের ক্ষেত্রে প্রাথমিক সংস্করণের চেয়েও ভালো পারফরম্যান্স পাওয়া গেছে।

সফটওয়্যার স্তরে, ওপেনএআই জালাপেঞ্জো কোর লিখতে অভ্যন্তরীণ বিস্তৃত কোডেক্স ব্যবহার করে, যার কিছু কোর কোড 3000 লাইন পর্যন্ত লম্বা; সবচেয়ে বেশি পারফরম্যান্স-নির্ভর অনুধাবন মেকানিজম এবং MoE মডিউলে, AI-এর উত্পাদিত কোড মানুষের শীর্ষ ইঞ্জিনিয়ারদের বাস্তবায়নের চেয়ে 1.5 থেকে 1.8 গুণ দ্রুত।

সেমি অ্যানালিসিস এটিকে খুব তীক্ষ্ণভাবে মূল্যায়ন করে: নভিডিয়া জিপিইউ-এ চলমান ওপেনএআই মডেল (যেমন GPT-5.6 Sol) এখন একটি চিপ ডিজাইন করতে ব্যবহৃত হচ্ছে যা কিউডিএ প্রতিরক্ষা বেষ্টনীকে প্রকৃত হুমকির মুখে ফেলবে—“নভিডিয়ার নিজস্ব জিপিইউগুলি নিজেদেরই সম্ভাব্য উত্তরাধিকারীকে বাস্তবসময়ে সৃষ্টি করছে।”

বাইরের অনেকেই ধরে নেয় যে Jalapeño হল একটি বিশেষভাবে OpenAI-এর নিজস্ব মডেলের জন্য কাস্টমাইজড চিপ, কিন্তু SemiAnalysis-এর উপসংহার ঠিক উল্টো: Jalapeño হল একটি সাধারণ AI ইনফারেন্স চিপ, যা বিভিন্ন মডেল এবং ওয়ার্কলোড, এমনকি Codex-এর মাধ্যমে পোর্ট করা ডোমিনেটর গেমও চালাতে পারে।

আর্কিটেকচারাল লেভেলে, জালাপেঞ্জোর মূল ডিজাইন ফিলোসফি হল "ফিক্সড ল্যাটেন্সি সমাপ্ত করা"। GPU-এর জটিল মেমোরি হায়ারার্কির বিপরীতে, জালাপেঞ্জো কম্পিউটেশনাল কোরগুলিকে HBM স্লাইসগুলির সাথে সরাসরি বাঁধে, এবং কোরগুলির মধ্যে স্পেশালাইজড হাই-ব্যান্ডউইথ কলেকটিভ নেটওয়ার্কের মাধ্যমে সিঙ্ক্রোনাইজ করে, যা মেমোরি অ্যাক্সেস ল্যাটেন্সি ব্যাপকভাবে কমিয়ে দেয়।

এছাড়াও, জালাপেঞ্জো অন্যান্য অ্যাক্সেলারেটরগুলির সাধারণত ব্যবহৃত সফটওয়্যার-পরিচালিত ক্যাশের পরিবর্তে অর্ডার-অউট-অফ-সিকোয়েন্স (OoO) কোর এবং L1 ক্যাশে ব্যবহার করে, যা এটিকে ছোট ব্যাচ এবং কম ল্যাটেন্সির পরিস্থিতিতে হার্ডওয়্যার থিওরেটিক্যাল পিকের কাছাকাছি পৌঁছাতে সক্ষম করে।

মেমোরি ব্যান্ডউইথের ক্ষেত্রে, জালাপেঞ্জো HBM4 ব্যবহার করে এবং একক প্যাকেজে 15.4TB/s মেমোরি ব্যান্ডউইথ অর্জন করে, যেখানে প্রতি ওয়াট HBM ব্যান্ডউইথ 22, যখন নভেডিয়া রুবিন 11.1 এবং GB300 মাত্র 5.71।

সেমি অ্যানালিসিস বলেছে, জালাপেঞ্জোর HBM4 পিন স্পিড 10Gbps, যা নভেডিয়া রুবিনের 9.6Gbps এর চেয়ে কিছুটা বেশি, এবং HBM সরবরাহকারী হতে পারে স্যামসাং।

উল্লেখযোগ্য যে, জালাপেঞ্জো প্রিফিলিং এবং ডিকোডিং পৃথক ডিপ্লয়মেন্ট (PDD) এড়িয়ে চলেছে। SemiAnalysis এর জন্য বিস্তারিত ব্যাখ্যা দিয়েছে:

বাস্তব উৎপাদন পরিবেশে, ইনপুট-আউটপুট অনুপাত, সমান্তরালতা, ক্যাশ হিট রেট ইত্যাদি প্যারামিটারগুলি নিরন্তর পরিবর্তনশীল; স্থির পুলিং সমগ্র ব্যবহার হ্রাস করে; এবং সমান সম্পদ পুলগুলি ট্রাফিকের পরিবর্তনের প্রতি নমনীয়ভাবে প্রতিক্রিয়া জানায়, লেটেন্সি-সংবেদনশীল অনুরোধ এবং উচ্চ থ্রুপুট ব্যাচ প্রক্রিয়াকরণের মধ্যে গতিশীলভাবে বণ্টন করে।

সেমি অ্যানালিসিস তাদের রিপোর্টে একটি গুরুত্বপূর্ণ বিবৃতি দিয়েছে: CUDA-এর প্রতিরক্ষামূলক প্রাচীর সম্ভবত মারা গেছে।

এর ভিত্তি হল সফটওয়্যার শুরুর গতির তুলনা। নভিডিয়া রুবিনের CoWoS প্রসেসিং জালাপেঞ্জোর চেয়ে এক মাস আগে সম্পন্ন হয়েছিল, তবে এখন পর্যন্ত, রুবিনের জন্য বাইরের কেউ যা পাবলিক বেঞ্চমার্ক ডেটা দেখতে পেয়েছে, তা শুধুমাত্র CoreWeave-এর প্রোটোটাইপ থেকে। নভিডিয়া OpenAI-এর মতো তৃতীয় পক্ষকে ল্যাবে মুক্তভাবে টেস্টিংয়ের অনুমতি দেয়নি। SemiAnalysis-এর মতে, এটি হার্ডওয়্যারের মধ্যে পার্থক্যকে নয়, বরং সফটওয়্যারের পারিপাট্যের পার্থক্যকেই প্রতিফলিত করে।

শূন্য থেকে সফটওয়্যার স্ট্যাক তৈরি করার মাধ্যমে ওপেনএআই ঐতিহ্যগত বোঝা থেকে মুক্ত হয়ে আরও পরিষ্কার আর্কিটেকচার সিদ্ধান্ত নিতে পেরেছে। ওপেনএআই নিজস্ব ডেভেলপ করা কোর প্রোগ্রামিং ভাষা Gluon (Triton-এর উপর ভিত্তি করে) এবং অভ্যন্তরীণ ইনফারেন্স ইঞ্জিন "Teacup" ব্যবহার করেছে এবং Codex-এর সাহায্যে কোর অপ্টিমাইজেশন দ্রুত সম্পন্ন করেছে। SemiAnalysis দেখেছে, মাত্র দুই সপ্তাহেরও কম সময়ে Jalapeño-এর নির্দিষ্ট ইন্টারঅ্যাকশন স্পিডের অধীনে থ্রুপুট 2 গুণেরও বেশি বৃদ্ধি পেয়েছে; 8 দিনেরও কম সময়ে, টিম TP8 থেকে TP32-এ টেনসর প্যারালালাইজেশন বাড়িয়েছে এবং পুরো ক্যাবিনেট-স্কেল ডিপ্লয়মেন্টটি ক্রস-র্যাকভিত্তিকভাবে অর্জন করেছে।

তবে, SemiAnalysis স্পষ্টভাবে উল্লেখ করেছে যে বর্তমান পরীক্ষাগুলি শুধুমাত্র 8k1k একটি আপেক্ষিকভাবে সাধারণ ওয়ার্কলোডকে কভার করেছে, এবং AgentX মাল্টি-রাউন্ড দীর্ঘ কনটেক্সট পরীক্ষা এখনও সম্পন্ন হয়নি। আরও জটিল এজেন্ট ওয়ার্কলোডে, রাউটার, প্রিফিক্স ক্যাশে ইত্যাদি উপাদানগুলির পারফরম্যান্স নতুন চ্যালেঞ্জ হয়ে উঠবে।

জালাপেঞ্জোর গল্প এখনও শেষ হয়নি।

সেমি অ্যানালিসিসের প্রকাশ অনুযায়ী, বর্তমানে পাবলিক টেস্টিং-এ A0 স্টেপ স্যাম্পল ব্যবহার করা হচ্ছে, যখন B0 স্টেপ ওয়েফার ফ্যাক্টরিতে প্রবেশ করেছে এবং A0-এর তুলনায় প্রতি ওয়াটে পারফরম্যান্সে প্রায় 25% বৃদ্ধির প্রত্যাশা করা হচ্ছে—B0-এর একটি কম্পিউটিং ডাইয়ের MXFP4 ক্ষমতা 13.4 PFLOPs হবে, যেখানে TDP 700W-এ অপরিবর্তিত থাকবে।

সিস্টেম স্তরে, ওপেনএআই এবং সেলেস্টিকা একটি সম্পূর্ণ র্যাক সমাধান ডিজাইন করেছে: প্রতিটি ASIC ক্যাবিনেটে 128টি জালাপেঞ্জো চিপ রয়েছে, দ্বিগুণ ক্যাবিনেট সিস্টেমের মোট বিদ্যুৎ খরচ প্রায় 160kW, যা নভিডিয়া GB300 ডুয়াল-উইডথ ক্যাবিনেটের সমান।

স্কেল আউটের ক্ষেত্রে, একক স্কেল নেটওয়ার্ক ডোমেইনে সর্বাধিক 2048টি Jalapeño XPU কানেক্ট করা যায়, যা 16টি র্যাক কভার করে। প্রোডাকশন স্কেলে, SemiAnalysis এর অনুমান হলো যে 2027 সালে ধাপে ধাপে উৎপাদন বৃদ্ধি হবে, এবং পরবর্তী মাইলফলক হলো 100MW স্কেলে ডিপ্লয়মেন্ট।

বৃহত্তর কৌশলগত চিত্রটি হলো, ওপেনএআই এবং ব্রডকম একটি 10GW কাস্টম অ্যাক্সেলারেটর চুক্তিতে স্বাক্ষর করেছে, যা প্রায় দশটি পরমাণু ইউনিটের পূর্ণ উৎপাদন ক্ষমতার সমান।

ওয়াল স্ট্রিট জার্নালের লেখা অনুযায়ী, ওপেনএআইয়ের চিপ প্রধান রিচার্ড হো বলেছেন যে কোম্পানিটি এখন তার অবকাঠামোর খরচ এবং শক্তি খরচকে বাস্তবিকভাবে কমানোর মাত্রায় পৌঁছেছে, "এটি শুধু প্রথম পদক্ষেপ।" তিনি একইসঙ্গে জোর দিয়েছেন যে নভিডিয়া এখনও গুরুত্বপূর্ণ অংশীদার, ওপেনএআইয়ের ক্যালকুলেশন ক্ষমতার চাহিদা অত্যন্ত বড়, এবং সংক্ষিপ্ত সময়ের মধ্যে এটি বর্তমান সরবরাহকারীদের ত্যাগ করবে না।

বিশ্লেষকদের মতে, জালাপেঞ্জোর গুরুত্ব হয়তো এটি আজ কতগুলি নভেডিয়া চিপ প্রতিস্থাপন করতে পারে তার চেয়ে বেশি, যেহেতু এটি একটি আগে প্রায়শই প্রশ্নিত বিষয়কে প্রমাণ করে: একটি AI কোম্পানি, AI টুলস ব্যবহার করে, রেকর্ডসময়ে একটি প্রকৃতপক্ষে প্রতিযোগিতামূলক চিপ তৈরি করেছে। এই ফ্লাইওয়heলটি এখন ঘুরছে।