اوپن اے آئی نے سیریبراس ہارڈویئر پر 750 ٹوکنز/سیکنڈ کی رفتار کے ساتھ GPT-5.6 Sol کا اعلان کیا

[ڈائیجیسٹ] GPT-5.6 کی استدلال رفتار اچانک 750 ٹوکنز/سیکنڈ تک پہنچ گئی! ماہرین نے اندازہ لگایا کہ یہ 100 ویفرز پر چلے گا۔ کیا AI سوچنے سے چمکنے میں تبدیل ہو گیا؟ کیا ریل ٹائم انسانی ذہانت کا دور آ گیا؟

مختلف ذرائع کے مطابق، GPT-5.6 جلد عام عوام کے لیے دستیاب ہو جائے گا۔

ہالیا وقت میں، اس ماڈل کے بارے میں مختلف افواہیں X پر وائرل ہو گئی ہیں۔

26 جون، اوپنای آئی نے بالکل نئی GPT-5.6 فیملی کا اعلان کیا تھا۔

اور آفیشل بلاگ میں ایک جملہ ہے: OpenAI اس ماہ کے دوران چپ گائیگنٹ Cerebras کے کسٹم ہارڈویئر پر نیا ایڈوانسڈ ماڈل — GPT-5.6 Sol لانچ کرنے کا منصوبہ رکھتی ہے، جس کی ریزننگ رفتار 750 ٹوکن فی سیکنڈ تک پہنچ گئی ہے!

یعنی، جو پیچیدہ ایجنٹ آپریشنز پہلے منٹوں کا انتظار مانگتے تھے، اب وہ ایک جھپکی میں مکمل ہو جاتے ہیں۔

واضح طور پر، OpenAI نے ہارڈویئر اور ماڈل کے مشترکہ ڈیزائن میں ایک انقلابی قدم اٹھایا ہے۔

ہالی کے قریب، تاریخ کی پہلی خود ساختہ AI انفرینس چپ Jalapeño کے افشا سے، ہم محسوس کر رہے ہیں کہ OpenAI ایک مکمل سٹیک AI امپائر بننے کی خواہش رکھتا ہے۔

"فی سیکنڈ 750 ٹوکن" کا کیا مطلب ہے؟

انسانوں کے لیے، یہ ایک سیکنڈ میں تقریباً 500 سے 600 حروف چینی پڑھنا اور ان کا اخراج کرنا ہے۔

آپ کے سامنے یہ متن، GPT-5.6 Sol صرف کچھ منٹوں کا حصہ لے کر تیار کر سکتا ہے۔

ایکس پر، مشہور ڈیولپر کیلیب شیپرڈ نے خوشی کے ساتھ کہا: "یہ میری سب سے زیادہ خوشی کی بات ہے، GPT-5.6 Sol Cerebras پر چل رہا ہے۔ صرف اس لیے نہیں کہ کوڈ لکھنے کی رفتار تیز ہو گئی ہے، بلکہ اس لیے کہ کمپیوٹر کے استعمال کی رفتار میں کوالٹی کا بڑا تبدیلی آ گئی ہے۔ اب ہمیں AI کو ایک بٹن دبانے کے لیے دو منٹ تک انتظار کرنے کی ضرورت نہیں ہے۔"

طویل عرصے سے، جبکہ بڑے ماڈلز ہر وقت زیادہ ذکی ہوتے جا رہے ہیں، "ریزنگ لیٹنسی" حقیقی وقت کے متعدد مرحلہ ایجنٹ کاموں میں لاگو کرنے کا بڑا بڑا رکاوٹ رہی ہے۔

جب ماڈل کے تریلینوں پیرامیٹرز ہوں تو، روایتی GPU کلسٹرز نوڈس کے درمیان مواصلات (NVLink کنکشن) پر عام طور پر فزیکل بند راستہ کا سامنا کرتے ہیں۔

اور OpenAI کا جواب یہ ہے: مدل کو ہارڈویئر کے مطابق نہیں بنانا چاہیے، بلکہ ہارڈویئر اور مدل کو ایک ساتھ ادھارنا چاہیے۔

آفیشل ایلان کے مطابق، GPT-5.6 Sol کو جولائی میں مخصوص صارفین کے لیے بہت محدود سائز پر شروع کیا جائے گا، اور پھر صلاحیت کے بڑھنے کے ساتھ ساتھ تدریجی طور پر مزید فراہم کیا جائے گا۔

جیسا کہ لوگ آن لائن مان رہے ہیں، یہ ایک بہت ہی مہنگی سروس ہے جو صرف ان عظیم کمپنیوں کے لیے ہے جو رفتار کے لیے ادائیگی کرنا چاہتی ہیں۔

jab 750 Tokens/s کا پیغام سامنے آیا، تو LLM Arena کے ہدایت کار پیٹر گوسٹیف نے ایک ایسا سوال پوچھا جس کا جواب سب کو حیران کر دیا:

GPT-5.6 Sol کو Cerebras پر کیا ہو رہا ہے؟ میری معلومات کے مطابق، یہ مکمل ایک ہی ماڈل ہے (جس میں ویژول اور دیگر متعدد ماڈلز کی صلاحیتیں شامل ہیں)، نہ کہ GPT-5.3-Codex-Spark کی طرح ویژول اور کنٹیکسٹ کو کٹنے والی کمزور نسخہ۔

لیکن میری سمجھ میں، سیریبراس کا ایک چپ صرف 7000 سے 9000 ارب پیرامیٹرز کا مدل ہی ہوسکتا ہے۔ تو، کیا مدل چھوٹا ہو گیا ہے؟ یا کیا میرے علم میں نئے چپس ہیں؟ یا کیا کوئی نئی ٹیکنالوجی ہے جس میں کئی چپس مل کر کام کرتے ہیں؟

یہ سوال فوراً کئی صارفین کے درمیان بحث کا سبب بن گیا۔

کچھ لوگوں نے مزاحیہ طور پر کہا کہ ہم اب "نائٹ مائیڈ فاریکس کی سطح کی چپ آڈٹ" کر رہے ہیں، اور کہا کہ "اگر یہ حقیقت میں ایک ہی مکمل ماڈل ہے، تو ایسا لگ رہا ہے جیسے کسی نے ایک سوپر یاچٹ کو ایک شیشے کی بوتل میں زبردستی ڈال دیا ہے، اور آپ کو یہ بھی نہیں بتایا کہ اسے کیسے کیا گیا۔"

جلد ہی، سینئر ٹیکنیکل ایکسپرٹ Bleys Goodson نے ایک بہت ہی قائل کن، گہری تجزیاتی تفصیل پیش کی —

GPT-5.6 Sol صرف ایک چپ نہیں ہے، بلکہ 70 سے 100 تک Cerebras ویفر لیول چپس پر مشتمل ہے!

بہترین ڈپلویمنٹ کی خوبصورتی: "ایک ویفر، ایک نیٹ ورک"

صنعت کے ماہرین کے اندازے کے مطابق، GPT-5.6 Sol کی规格 بہت بڑی ہے:

• کل پیرامیٹرز: تقریباً 3 ٹریلین
• فعال کرنے کا پیرامیٹر: تقریباً 150 ارب
• نیٹ ورک لیئرز: تقریباً 70 سے 90 لیئرز

صحت مند استدلال سروس کے خصوصیات حاصل کرنے کے لیے، OpenAI اور Cerebras نے ایک بہت زیادہ مہنگا اور حیرت انگیز ڈیپلومنٹ طریقہ اپنایا — جس میں ہر نیورل نیٹ ورک لیئر کو الگ الگ ایک پورے Cerebras وفر پر ڈیپلو کیا گیا۔

جیسا کہ ایک صارف نے اشارہ کیا، لائن کے مراحل کو بڑھانے سے، جب تک آپ کے پاس انہیں جوڑنے کے لیے کافی وافلز ہوں، آپ نظریہ طور پر کسی بھی سائز کے ماڈل تک وسعت دے سکتے ہیں، جس سے ٹوکن کی پیداوار کی رفتار متاثر نہیں ہوتی، صرف پہلا ٹوکن وقت (TTFT) پر ہلکا اثر ہو سکتا ہے۔

بہادرانہ تعمیراتی دوبارہ ساخت — مجبور کیا گیا ہلکا KV Cache

تاہم، صرف بہت سارے ویفر کافی نہیں ہیں۔ سیریبراس چپ کی ایک بڑی خصوصیت یہ ہے کہ اس میں بہت زیادہ آن چپ SRAM (سٹیٹک رینڈم ایکسیس میموری) ہوتی ہے، جو بہت تیز ہوتی ہے لیکن اس کی صلاحیت بہت قیمتی ہوتی ہے۔

اگر OpenAI گٹ پی-5.6 سول میں روایتی بھاری KV کیش کا استعمال کرتا ہے، تو یہ مہنگے SRAM بینڈ ویتھ فوراً ختم ہو جائیں گے۔

اس سے وہ سب سے اہم استراتیجیک موڑ پیدا ہوتا ہے جو مخصوص ہارڈویئر کے اردگرد ماڈل کو دوبارہ تعمیر کرتا ہے۔

بلیز گڈسن نے کہا کہ چونکہ OpenAI ہارڈویئر کو ڈیزائن کرنے میں گہرا شامل ہے، اس لیے وہ روایتی توجہ میکانزم کی کیش اسکیم کو چھوڑ کر زیادہ جدید، ہلکی پھلکی ڈیزائن پر منتقل ہو گئے ہوں گے۔

سب سے زیادہ امکان کی صورتیں درج ذیل ہیں:

DeepSeekV4 جیسی ساخت: کیش کے استعمال کو بہت زیادہ بہتر بنایا گیا ہے۔

مکسڈ SSM ڈیزائن: Mamba جیسے لینیئر ٹائم کمپلیکسٹی مدلز کو ٹرانسفارمر کے ساتھ ملا کر KV کیش کے قدیم بوجھ کو مکمل طور پر ختم کریں۔

اس کے علاوہ، مشہور ڈیولپر جان لیم نے ایک حیرت انگیز تصور پیش کیا ہے — توجہ اور FFN کا الگ کرنا۔

وہ خیال کرتا ہے کہ OpenAI ممکنہ طور پر توجہ کے حسابات کے لیے روایتی GPU استعمال کر رہا ہے، جبکہ فیڈ فارورڈ نیورل نیٹ ورک کے حصے کے لیے بے شمار Cerebras وافل استعمال کر رہا ہے۔

یہ بالکل بے بنیاد نہیں ہے۔ نیٹ صارفین نے جلد ہی سیرابراس کے بلاگ میں کیمی K2.6 کے ڈیپلومنٹ کے تفصیلات کو نکال لیا:

سیریبراس نے CS-3 سسٹم پر Kimi K2.6 کے اصل وزن 4-bit میں محفوظ کیے ہیں، جبکہ درستگی کو برقرار رکھنے کے لیے 16-bit فلوٹنگ پوائنٹ پر کمپیوٹیشن کیا جاتا ہے۔ وزن متعدد ویفرز پر تقسیم ہیں، اور ایکٹیویشن ویفرز کے درمیان اسٹریمنگ کیے جاتے ہیں۔ لیئرز کے درمیان مکمل کنکٹیوٹی کمیونیکیشن مکمل طور پر ویفر پر نیٹ ورک ڈھانچے پر منحصر ہے، جس کی بینڈ وڈتھ Nvidia NVL72 پر NVLink سے 200 گنا زیادہ ہے! مخصوص آپریٹرز اور سپکولیٹو ڈیکوڈنگ کے ساتھ، وہ ترلین پیرامیٹرز والے MoE ماڈلز کو تقریباً 1000 ٹوکنز/سیکنڈ کی رفتار سے چلا سکتے ہیں۔

سرکاری spec کے مطابق، انقلابی CS-3 سسٹم نہ صرف بے مثال تیز ہے، بلکہ ایک منفرد منطقی ڈیوائس پر 24 ٹریلین پیرامیٹرز کے ماڈل تک آسانی سے وسعت دے سکتا ہے!

جیسا کہ کسی نے حیرت سے کہا: "اگر یہ واقعی Cerebras پر چلنے والی مکمل نسخہ Sol ہے، تو آج رات سب کے لیے ماڈل کے سائز کی حد کو براہ راست توڑ دیا گیا ہے۔"

اصلی ہتھیار — OpenAI نے اپنا خود ساختہ چپ «Jalapeño» متعارف کرایا

اور اس سے تھوڑا پہلے، OpenAI نے اپنی تاریخ کی پہلی خود ساختہ چپ — Jalapeño کو باہر نکال دیا۔

اس چپ کے ظہور سے OpenAI اور Cerebras کے تعاون کی گہری منطق واضح ہو جاتی ہے: تیسری فریق کے بہترین استدلال ہارڈویئر پر تحقیق کے ذریعے، OpenAI نے مخصوص استدلال ایکارچیٹکچر کی اہمیت اور اس کے مسائل کو بالکل سمجھ لیا اور اسے اپنے قابو میں بنیادی پلیٹ فارم میں تبدیل کر دیا۔

خالپینیو میکسیکن مرچ کی ایک انتہائی ہلکی قسم ہے۔ اوپنای آئی نے اس کا نام استعمال کیا ہے، جس سے ظاہر ہوتا ہے کہ یہ صرف ایک چھوٹا سا ابتدائی کورس ہے۔

یہ چپ، بڑے ماڈل کے انفرینس کے لیے ڈیزائن کیا گیا ایک مخصوص ASIC ہے۔ پہلی لائن بنانے سے لے کر، اس کا ہر ٹرانزسٹر صرف ایک چیز کے لیے بہترین ہے: بڑے ماڈل چلانا۔

حیران کن بات یہ ہے کہ Jalapeño صرف OpenAI کے اپنے ماڈلز پر ہی نہیں چلتا، بلکہ اس کی ساخت پورے صنعت کے LLMs کے ساتھ مطابقت رکھتی ہے، جس سے اس کی بڑی پلیٹ فارم کی خواہش ظاہر ہوتی ہے۔

اور، اس چپ کی ڈیزائن اور تیاری صرف 9 ماہ میں مکمل ہو گئی۔

اس کے پیچھے، انتہائی طاقتور صنعتی اتحاد ہے:

آرکیٹیکچر ڈومینیٹ: OpenAI نے بنیادی آرکیٹیکچر ڈیزائن پر عمل کیا۔

چپ کی تعمیر اور نیٹ ورک کنکشن: چپ کے بڑے فراہم کنندہ بیکوم مضبوط تعمیر کی صلاحیت اور نیٹ ورک کنکشن ٹیکنالوجی فراہم کرتا ہے۔

سسٹم انٹیگریشن: سیلیسیکا آخری بورڈ تیاری اور ریک لیول فزیکل انٹیگریشن کا ذمہ دار ہے۔

مڈل خود ٹرین کریں، چپ خود ڈیزائن کریں، انفرنس خود آپٹیمائز کریں، اور ڈیپلویمنٹ خود کنٹرول کریں۔

واضح طور پر، OpenAI کا مقصد ایک وسیع پیمانے پر مکمل AI سلطنت ہے۔

لیکن OpenAI کی خواہشیں Apple اور Google سے زیادہ پاگل ہیں، ان کے پاس ایک بے مثال سپر فل وہیل ہے: AI کا استعمال کرکے AI انفراسٹرکچر کی تعمیر کو تیز کرنا، اور پھر تعمیر شدہ مضبوط انفراسٹرکچر کا استعمال کرکے زیادہ طاقتور AI چلانا۔

اوپن اے آئی کے اعلان کردہ وسیع منصوبے کے مطابق، پہلے جی واٹ فیکٹری سطح کے سپر ڈیٹا سینٹر 2026 کے آخر سے شروع ہوں گے، جنہیں مائیکروسافٹ سمیت اہم شراکت داروں کے ساتھ مشترکہ طور پر لاگو کیا جائے گا۔

ایک درمیانے شہر کی مکمل بجلی کی ضرورت، جلپینو اور اگلی نسل کے مرچ چپس کے لیے انفرینس ریک کو چلانے کے لیے استعمال ہوگی۔

تیار ہو جائیں، جلد ہی، ہم GPT-5.6 Sol کو Cerebras وافل پر 750 Tokens/s کی رفتار سے دوڑتے ہوئے پارامیٹرز اور استدلال کی رفتار کے فزیکل جادو کو توڑتے ہوئے دیکھنے والے ہیں۔

حوالہ جات: https://x.com/bleysg/status/2073937651150029084

یہ مضمون ویچن گروپ "نیوزی یوان" سے ہے، مصنف: ASI وحی؛ ایڈیٹر: ایینیس