جیف ڈین پر AI کے اگلے مرحلے: TPU سے خود ترقی کرنے والے ایجینٹس تک

2026 کے YC اسٹارٹ اپ اسکول میں، جیف ڈین کی آواز کچھ خرخشی تھی۔

انٹرویو کے شروع میں، اس نے وضاحت کی کہ اس کی آواز چلی گئی ہے، اس لیے آج اس کی آواز عام طور پر سے مختلف لگ رہی ہے۔ لیکن اس نے نیچے بیٹھے شائقین کی توجہ متاثر نہیں کی۔ اس کے سامنے بیٹھی YC کی شراکت دار دیانا ہو نے ایک لسٹ پیش کر دی جس میں کمپیوٹر کی تاریخ میں داخل ہونے والے نام شامل تھے: MapReduce، BigTable، TensorFlow، TPU، Gemini۔

کسی بھی ایک پروجیکٹ کافی ہوتا ہے کہ ایک انجینئر کی کیریئر کا نمایاں کام بن جائے۔ لیکن یہ تمام پروجیکٹس جیف ڈین اور اس کے اردگرد کے گوگل انجینئرز کی سیرت میں مرکوز ہیں۔

ڈائنا نے انٹرویو کو ایک کامیابی کا جائزہ نہیں بنایا۔ وہ ایک اور سوال پر زیادہ توجہ دے رہی تھی: جب جنریٹو AI نے سافٹ ویئر صنعت پر طوفان کیا ہے، تو جیف ڈین، جو نظام کو بنیادی سطح پر دوبارہ ڈیزائن کرنے میں سب سے ماہر ہیں، آج کل کیا دیکھ رہے ہیں؟

جواب بڑے ماڈل نہیں ہے۔

اس تقریب کے تقریباً ایک گھنٹے کے مکالمے میں، جیف ڈین نے بار بار استدلال ہارڈویئر، توانائی، ڈیٹا منتقل کرنا، کنٹیکسٹ انجینئرنگ، طویل مدتی چلنے والے ایجنٹ، آٹومیٹڈ تجرباتی نظام اور اسٹارٹ اپس کیسے جنرل ماڈل کے سیدھے حملے سے بچ سکتے ہیں، پر بات کی۔ اس کی باتیں ایسی لگ رہی تھیں جیسے وہ الگ الگ ہوں، لیکن ان کے پیچھے ایک بہت واضح مرکزی خیال تھا: AI کا اگلا مرحلہ صرف ماڈل کو زیادہ ذکی بنانا نہیں، بلکہ ماڈل کو ایک� ایسے نظام میں ڈالنا ہے جو لمبے عرصے تک کام کر سکے، لگاتار ٹرائل اور غلطی کر سکے، خودکار طور پر تصدیق کر سکے، اور صلاحیتیں مستقل طور پر جمع کر سکے۔

اس کا مطلب یہ بھی ہے کہ AI کی مقابلہ اب «جو بڑا ماڈل رکھتا ہے» کی بجائے «جو بہتر طریقے سے ذہانت کو منظم کرتا ہے» پر منتقل ہو رہی ہے۔

مئی 2025 میں، جیف ڈین نے ایک ایسا جائزہ دیا جس نے وسیع بحث کا آغاز کیا: AI کی صلاحیتیں اب ایک جونیئر انجینئر کے قریب پہنچ چکی ہیں۔

ایک سال بعد، دیانا نے پوچھا، اس پیشگوئی کا کیا حال ہوا؟

جیف ڈین کا جواب بہت سیدھا سادہ تھا۔ وہ سمجھتے ہیں کہ یہ جائزہ "کافی درست" ہے۔ ایجنٹ، لمبے پروسیس کوڈنگ اور پیچیدہ کاموں میں ماڈل کی ترقی، اس کے خیال سے بھی تیز تر ہو رہی ہے۔

اس نے کہا، "میں نے انتظار کیا تھا کہ ماڈل مزید پیچیدہ کاموں کو سنبھالنے کی صلاحیت میں ترقی ہوگی، لیکن یہ میری توقع سے زیادہ تیزی سے بڑھ رہی ہے۔"

زیادہ قابل توجہ بات یہ ہے کہ یہ صلاحیت اب صرف کوڈ لکھنے تک محدود نہیں رہی۔ ایجینٹ سسٹمز کا تعداد سائنس، انجینئرنگ اور دیگر پیشہ ورانہ شعبوں میں بڑھ رہا ہے۔ وہ صرف سوالات کے جوابات نہیں دے رہے، بلکہ کام کو ٹکڑوں میں تقسیم کر رہے ہیں، ٹولز استعمال کر رہے ہیں، تجربات چلا رہے ہیں، نتائج پڑھ رہے ہیں، اور فیڈ بیک کے مطابق مزید کارروائی کر رہے ہیں۔

AI کو ایک جونیئر انجینئر کے طور پر تشبیہ کرنا آسانی سے توجہ کو انسانی طاقت کے متبادل پر مبذول کر دیتا ہے۔ لیکن جیف ڈین کو ایک اور سطح کے تبدیلی پر زیادہ دلچسپی ہے: جب ایک "جونیئر انجینئر" کو دہاں، سوں تک کاپی کیا جا سکے، اور چند دن یا ہفتے تک متوازی طور پر کام کیا جا سکے، تو پیداوار کے طریقے میں کیا تبدیلی آئے گی؟

روایتی ٹیم میں، جونیئر انجینئرز کو بزنس سمجھنا ہوتا ہے، ٹولز سمجھنا ہوتا ہے، اور مستقل فیڈ بیک حاصل کرنا ہوتا ہے۔ ایجنٹ کے لیے بھی یہی بات درست ہے۔ صرف اس کا تربیتی مواد صرف دستاویزات نہیں ہوتے، بلکہ پرامپٹس، ٹول کی تفصیلات، مہارت کے فائلز، ٹیسٹنگ سسٹم، ایوانلیٹرز، اور پورا کنٹیکسٹ ہوتا ہے۔

یہ AI انجینئرنگ میں ایک نیا تقسیم کام پیدا کرتا ہے۔

گزشتہ میں، انجینئرز کا بنیادی کام کوڈ لکھنا تھا۔ مستقبل میں، زیادہ انجینئرز مسائل کو تعریف کرنے، ماحول تیار کرنے، معیارات لکھنے، فیڈ بیک لوپ ڈیزائن کرنے اور ایک گروہ ایجنٹس کو ٹاسک مکمل کرنے کے لیے متعین کرنے پر توجہ دیں گے۔

جیف ڈین کا 2027 کے لیے یہی خیال ہے۔ وہ سمجھتے ہیں کہ مشین لرننگ سسٹمز مشین لرننگ سسٹمز کو بہتر بنانے میں زیادہ سے زیادہ شامل ہوں گے۔ وہ مقصد کو ذیلی مسائل میں تقسیم کریں گے، بڑی تعداد میں تجربات خودکار طور پر چلائیں گے، نتائج کا موازنہ کریں گے، اور اثرات کار حل کو ملا کر مضبوط نئے سسٹمز تشکیل دیں گے۔

جہاں تک کوئی قابلِ اندازہ مقصد ہو، وہاں بڑی پیش رفت کا موقع ہوتا ہے۔

یہ جاننے کی پہلی چابی ہے۔

سب سے پہلے جس شعبے میں AI آٹومیشن نے گھسپیٹا کیا، وہ ضروری طور پر سب سے زیادہ علم رکھنے والا شعبہ نہیں ہے، بلکہ وہ شعبہ ہے جہاں فیڈ بیک سب سے زیادہ واضح ہوتا ہے۔ کیا کوڈ ٹیسٹ پاس کرتا ہے؟ کیا چپ کی ترتیب سطح کو کم کرتی ہے؟ کیا ماڈل کی ساخت درستگی بڑھاتی ہے؟ کیا مواد کے خصوصیات ضروری معیارات پر پورا اترتے ہیں؟ ان سوالات کے لیے نسبتاً واضح جائزہ معیارات ہوتے ہیں۔ صرف اس صورت میں جب جائزہ لینے والا کافی قابل اعتماد ہو، مشین انتہائی اعلیٰ فریکوئنسی پر دوبارہ تجربات کر سکتی ہے۔

تو، AI کے دور میں اصل میں اہم یونٹ شاید ایک جواب نہیں، بلکہ ایک مکمل سرکل ہوگا: منصوبہ پیش کرنا، منصوبہ نفاذ کرنا، نتائج کا جائزہ لینا، اور رخ بدلنا۔

جیف ڈین کے بہت سے نمایاں کام، بہت سادہ شروعات سے شروع ہوئے: پہلے درجہ بندی کو واضح کریں۔

2001 میں، گوگل کی تلاش کے لیے ابھی بھی زیادہ تر ہارڈ ڈرائیوز پر انحصار کیا جا رہا تھا۔ ہارڈ ڈرائیوز کی کیپسیٹی زیادہ تھی، لیکن اس تک رسائی کا عمل سست تھا۔ جیف ڈین اور سن جے گھیماوت نے ایک اندازہ لگایا اور پایا کہ گوگل کا موجودہ مکمل سرچ انڈیکس، تمام سرورز کی میموری میں جا سکتا تھا۔

آج کو، یہ صرف ایک ذخیرہ کے ذریعے کی اپ گریڈ لگ رہی ہے۔ لیکن اس وقت، یہ بالکل مختلف سسٹم ڈیزائن کا مطلب تھا۔

اگر انڈیکس زیادہ تر ہارڈ ڈرائیو پر رہے، تو کوئری کو میکانکی سرچ کے لیے انتظار کرنا پڑتا ہے۔ صرف انڈیکس کو میموری میں ڈال دیں، اور ایکسیس لیٹنسی میں اچانک کمی آ جائے گی۔ دونوں نے جلد ہی نیا ورژن لکھ دیا اور کچھ دنوں میں اسے پروڈکشن میں ڈال دیا۔ اس سے گوگل سرچ میں واضح طور پر تیزی آ گئی۔

یہ کہانی سب سے آسانی سے ایک جنونی لمحے کے طور پر پیش کی جا سکتی ہے۔ لیکن جیف ڈین کا انداز زیادہ ایک انجینئر کے معمولی باتوں کو بیان کرنے جیسا ہے: سسٹم کی شرائط بدل گئیں، جو پہلے درست نہیں تھا، اب اس کا اطلاق ہو رہا ہے، تو اسے دوبارہ کیلکولیٹ کرنا چاہیے۔

بہت سے صنعتی ایجادات اسی لمحے ہوتی ہیں۔

ایک پرانا مسئلہ طویل عرصے تک موجود رہا، اور لوگوں نے اس کے اردگرد ٹھیکے لگانے کی عادت ڈال لی۔ بعد میں، ہارڈویئر کی قیمتیں، میموری کی صلاحیت، نیٹ ورک بینڈ ویتھ یا ماڈل کی صلاحیت کسی اہم حد تک پہنچ گئیں، جس سے پہلے کے پابندیاں ختم ہو گئیں۔ لیکن زیادہ تر لوگ اب بھی پرانے آرکیٹیکچر کو استعمال کرتے ہیں، کیونکہ وہ پرانا آرکیٹیکچر عام علم بن چکا ہے۔

جیف ڈین جو کرتا ہے، وہ عام منطق کو دوبارہ فرضیہ بنانا ہے۔

وہ پوچھے گا: کیوں ایسا ہونا ضروری ہے؟ آج کا سائز کل کے سائز کے برابر ہے؟ اگر سب سے مہنگا مرحلہ تبدیل کر دیا جائے، تو پورا نظام بالکل مختلف شکل اختیار نہیں کر لے گا؟

یہ اس کا قائم کرنے والوں کے لیے مشورہ بھی ہے۔ صرف موجودہ حل کی کمیوں پر توجہ نہ دیں، بلکہ مسئلہ کو پہلے اصولوں سے دوبارہ دیکھیں۔ کیا آپ پرفارمنس کو ایک درجہ بڑھا سکتے ہیں؟ کیا آپ لاگت کو دو درجے کم کر سکتے ہیں؟ کیا آپ صنعت کے ڈیفالٹ عمل کو نہیں چلاسکتے؟

کبھی کبھی، آپ کو صرف ایک مسئلے کو تھوڑا سا دیکھنا ہوتا ہے، آج کے حل سے منسلک نہ ہوں، بلکہ پہلے اصولوں سے سوچیں کہ اسے کیسے حل کیا جانا چاہیے۔

یہ جملہ خفیہ نہیں لگتا۔ اصل مشکل یہ ہے کہ زیادہ تر لوگ جب کسی صنعت میں داخل ہوتے ہیں، تو وہ جلد ہی اس صنعت کے تمام ڈیفالٹ جوابات سیکھ لیتے ہیں۔ تجربہ لوگوں کو کارکردگی میں مدد کرتا ہے، لیکن اس سے دوبارہ سوال پوچھنے کی صلاحیت بھی ختم ہو جاتی ہے۔

2013 میں، گوگل کی گہری سیکھنے والی آواز کی شناخت نے پرانے نظام کو واضح طور پر پیچھے چھوڑ دیا۔ غلطی کی شرح نصف ہو گئی، جس سے گزشتہ دو دہائیوں کی آواز کی شناخت کی ترقی کچھ ماہوں میں مرکوز ہو گئی۔

پروڈکٹ ٹیم ضرور خوش ہے۔ لیکن جیف ڈین نے پہلے ایک حساب لگایا۔

اگر آواز کی شناخت حقیقت میں بہتر ہو جائے، تو صارفین زیادہ استعمال کرنے کو تیار ہوں گے۔ فرض کریں کہ ہر گوگل صارف روزانہ صرف تین منٹ آواز کی شناخت استعمال کرتا ہے، تو گوگل کو اس کے لیے کتنے سرورز کی ضرورت ہوگی؟

نتائج مثبت نہیں تھے۔ اس وقت کے CPU کی کارکردگی کے مطابق، گوگل کو اپنے سرورز کا سائز دگنا کرنا پڑ سکتا تھا۔

یہی TPU کا آغاز ہے۔

یہ تحقیقی ٹیم کے اچانک چپ بنانے کی خواہش کی وجہ سے نہیں ہے، اور نہ ہی یہ ثابت کرنے کے لیے کہ گوگل ہارڈویئر بنانے میں قادر ہے، بلکہ اس لیے ہے کہ ایک کامیاب ماڈل جلد ہی ایک ایسا سروس کا اخراج برداشت نہیں کر پائے گا۔

یہ تاریخ AI پروڈکٹس میں ایک ایسے قانون کو ظاہر کرتی ہے جسے اکثر نظرانداز کیا جاتا ہے: ماڈل کی کارکردگی میں اضافہ ہمیشہ لاگت کم نہیں کرتا۔ بالکل برعکس، جتنا بہتر نتیجہ ہوگا، اتنا ہی زیادہ استعمال ہوگا اور سسٹم پر دباؤ بڑھے گا۔

جب آواز شناخت کام نہیں کرتی، تو صارفین اسے کم استعمال کرتے ہیں۔ سسٹم کی لاگت مسئلہ نہیں ہے۔ جب غلطی کی شرح میں بڑی کمی آتی ہے، تو مانگ اچانک آزاد ہو جاتی ہے، اور پیچھے چھپے ہوئے کمپوٹنگ کے پابندیاں سامنے آ جاتی ہیں۔

TPU نے وہ راستہ اپنایا جو مشین لرننگ کے سب سے اہم کمپوٹیشنل ماڈل کے لیے مخصوص ہارڈویئر ہے۔ اسے براؤزر چلانے کی ضرورت نہیں اور نہ ہی یہ تمام جنرل پروگرامز کو ہینڈل کرتا ہے۔ اس کی بنیادی طاقت کم درجہ کی، گھنے لینیئر الجبرا پر ہے۔ یہ قسم کی کمپوٹیشن مدرن مشین لرننگ کے مرکز میں بالکل ملتی ہے۔

پہلی نسل کے TPU نے بالآخر ایک درجہ بڑھا ہوا فائدہ دیا۔ جیف ڈین کے مطابق، یہ اس وقت کے CPU اور GPU کے مقابلے میں 30 سے 80 گنا زیادہ توانائی کی بچت کرتا تھا اور تاخیر 20 سے 30 گنا کم تھی۔

یہاں ایک ایسا ڈیزائن سائز بھی ہے جسے نظرانداز کیا جاتا ہے۔

TPU بہت مخصوص ہے، لیکن اتنی مخصوص نہیں کہ صرف ایک مخصوص ماڈل کے لیے ہی استعمال ہو سکے۔ ٹیم کو معلوم تھا کہ مشین لرننگ الگورتھمز جلد تبدیل ہوتے رہیں گے، اس لیے انہوں نے چپ کو ایک نسبتاً عام لینیئر الجبرا سسٹم کے طور پر ڈیزائن کیا۔ اس نے Chrome یا Word چلانے کی صلاحیت کو ضائع کر دیا، لیکن مستقبل کے الگورتھمز کی ترقی کے لیے جگہ برقرار رکھی۔

یہ ایک مشکل توازن ہے۔ اگر آپ کم استعمال کریں گے، تو منافع واضح نہیں ہوگا۔ اگر آپ زیادہ استعمال کریں گے، تو الگورتھم بدل جائے گا اور ہارڈویئر فوراً قدیم ہو جائے گا۔

جیف ڈین کا آج کے ریزنگ ہارڈویئر کے بارے میں جائزہ، اس کے ٹی پی یو کے زمانے کے ساتھ واضح طور پر ملتا جلتا ہے۔ وہ سمجھتے ہیں کہ اگلی بڑی مواقع اب بھی مخصوص ہونے میں ہیں، لیکن توجہ مزید کم لیٹنسی اور کم توانائی کے ریزنگ پر منتقل ہوگی۔

تصور کریں کہ اگر تاخیر 50 گنا بہتر ہو جائے، تو آپ کیا کر سکتے ہیں۔

جب ماڈل کا جواب دس کے قریب سیکنڈ لے تو لوگ اسے صرف کبھی کبھار استعمال ہونے والا ٹول سمجھتے ہیں۔ جب تاخیر فوری کے قریب ہو جائے، تو یہ حقیقی طور پر انٹرایکٹو انٹرفیس، روبوٹس، ریل ٹائم ویڈیو، آپریٹنگ سسٹم اور مسلسل فیصلہ سازی کے عمل میں داخل ہو سکتا ہے۔

انتظار ایک چھوٹی سی تجربہ کی پیچیدگی نہیں ہے۔ انتظار مصنوعات کی شکل بدل دیتا ہے۔

اگر 2026 کے AI انجینئر کے لیے "ہر انجینئر کو جاننا چاہیے کہ تاخیر کے اعداد کیا ہیں" کا ایک نیا ورژن تیار کیا جائے، تو جیف ڈین کا خیال ہے کہ توجہ ہارڈ ڈرائیو سرچ، کیش ناکامی اور عبور قارہ نیٹ ورک تاخیر سے چِپ کے اندر ڈیٹا فلو پر منتقل ہونی چاہیے۔

انجینئرز کو یہ جاننا چاہیے: مین میموری سے چپ پر میموری تک بینڈ ویتھ کتنی ہے، چپ پر میموری سے ضرب کے یونٹ تک بینڈ ویتھ کتنی ہے، ایک ضرب کے لیے کتنی توانائی درکار ہوتی ہے، چپس کے درمیان کنکشن کیسے ہوتے ہیں، اور 500 چپس کو 10,000 چپس تک وسعت دینے پر نیٹ ورک کی کارکردگی کیسے کم ہوتی ہے۔

یہ اعداد و شمار مصنوعات سے دور لگتے ہیں، لیکن دراصل یہ یہ طے کرتے ہیں کہ کون سا مصنوعہ کامیاب ہوگا۔

جیف ڈین نے ایک بہت زبردست تناسب پیش کیا۔ ایک ریاضی کی ضرب کو مکمل کرنے کے لیے صرف ایک پکو جول توانائی کی ضرورت ہوتی ہے۔ ڈیٹا کو ہائی بینڈ وِڈتھ میموری سے کمپوٹیشن یونٹ تک منتقل کرنے کی توانائی لاگت تقریباً 1000 گنا زیادہ ہو سکتی ہے۔

دوسرے الفاظ میں، آج کے AI سسٹم میں مہنگے ایکشن عام طور پر "کلکولیٹ" نہیں بلکہ "جو چیز کلکولیٹ کرنی ہے اسے لانے" کے ہوتے ہیں۔

یہ بھی وضاحت کرتا ہے کہ بیچ پریس کیوں اہم ہے۔

جب مدل کے وزن میموری سے کمپیوٹیشن یونٹ میں منتقل ہوتے ہیں، تو اگر صرف ایک ٹوکن کو پروسیس کیا جائے، تو تمام ڈیٹا منتقلی کا اخراج اس ایک ٹوکن پر ہی پڑتا ہے۔ اگر ایک ساتھ بڑا بیچ پروسیس کیا جائے، تو ایک ہی وزن کو زیادہ کمپیوٹیشن کے لیے استعمال کیا جا سکتا ہے، جس سے توانائی اور بینڈ ویتھ کا اخراج تقسیم ہو جاتا ہے۔

لیکن بیچ پروسیسنگ اور کم لیٹنسی قدرتی طور پر متصادم ہیں۔ ایک بیچ کے لیے درخواستوں کو جمع کرنے کے لیے سسٹم اکثر انتظار کرتا ہے۔ ٹھیک گنجائش بڑھ جاتی ہے، لیکن منفرد صارفین کا جواب دیر سے آ سکتا ہے۔

اس لیے، بہت سے ایسے مسائل جو مدل لیول کے لگتے ہیں، دراصل ہارڈویئر اور سسٹم کے مسائل ہیں۔ تربیت کے لیے بڑے بیچز کیوں استعمال کیے جاتے ہیں، استنتاج کے لیے KV Cache کیوں ضروری ہے، مدل کیوں کم درجہ کی درستگی کا تعاقب کرتے ہیں، اور سسٹم کیوں کو مقدار کا تقسیم کرنا چاہیے—ان سب کے پیچھے ڈیٹا کی منتقلی اور توانائی کے پابندیوں کے بغیر کچھ نہیں ہے۔

جیف ڈین کی توجہ حالیہ وقت میں استدلال پر زیادہ ہے، کیونکہ استدلال کے لیے تاخیر بہت حساس ہے۔ تربیت کے کاموں کا سست چلنا صرف تجربے کے ختم ہونے میں تاخیر کا سبب بنتا ہے۔ استدلال کے کاموں میں ایک سیکنڈ کی مزید تاخیر صارفین کے تجربے اور ایجنٹ کی کارکردگی پر فوراً اثر ڈالتی ہے۔

اگر ایک ایجنٹ کو 1000 بار لگاتار ماڈل کو بلانا ہو، تو ہر ایک کی تاخیر میں 50% کی کمی سے پورے کام کو مکمل ہونے میں بہت بڑا فرق آ سکتا ہے۔ نہ صرف اس سے، بلکہ مستقبل میں ایجنٹ کو کئی دن یا کئی ہفتے تک چلنا ہوگا۔

اس لیے، AI کا "�رژہ کا مسئلہ" ایک دور کا ماحولیاتی مسئلہ نہیں ہے۔ یہ ب безاپ کے طور پر ماڈل کو زیادہ لوگوں کے لیے سستا فراہم کرنے، ایجنٹ کو مستقل طور پر چلنے اور کاروباری شروعاتی کمپنیوں کے خالص منافع کو صحت مند رکھنے پر منحصر ہے۔

گزشتہ کچھ سالوں میں، AI صنعت نے ترقی کو پیرامیٹر کی تعداد، تربیتی ڈیٹا اور بنچ مارک اسکور کے ذریعے ناپا ہے۔ 2026 میں، جیف ڈین نے مدل کے ارد گرد کی تمام چیزوں پر زیادہ زور دیا۔

ایک حقیقی طور پر مفید AI سسٹم کے لیے مدل کے علاوہ، ریٹریول، ٹولز، میموری، تاریخی معلومات، ایکزیکشن ماحول اور فیڈ بیک میکنزم درکار ہوتے ہیں۔ مدل کو یہ جاننا چاہیے کہ کون سے ٹولز دستیاب ہیں، کب ٹولز کو بلانا ہے، کیسے پیچیدہ مسائل کو ایک سلسلہ اقدامات میں تقسیم کیا جائے، اور کئی منصوبوں کا موازنہ کر کے یہ فیصلہ کرنا کہ کون سا منصوبہ زیادہ کامیاب ہونے کا امکان رکھتا ہے۔

یہی وجہ ہے کہ "کنٹیکسٹ انجینئرنگ" اب مرکزی سطح پر آ رہا ہے۔

جیف ڈین کہتے ہیں کہ تربیت کے مرحلے میں مدل کو دی گئی معلومات کو آخرکار ہزاروں ارب یا تریلیون پیرامیٹرز میں 'ملا دیا جاتا ہے'۔ وہ ایک گاڑھی سوپ کی طرح ہوتی ہیں، جس میں علم موجود ہوتا ہے، لیکن ضروری نہیں کہ وہ واضح ہو۔ موجودہ سیاق و سباق میں شامل کی گئی معلومات، مدل کے لیے زیادہ براہ راست اور زیادہ درست طریقے سے استعمال کی جانے والی ہوتی ہیں۔

یہ چھوٹی ٹیم کے لیے ایک اہم موقع چھوڑتا ہے۔

بنیادی ماڈل کو تربیت دینے کے لیے بہت زیادہ سرمایہ، ڈیٹا اور کمپیوٹیشنل طاقت کی ضرورت ہوتی ہے۔ لیکن کانٹیکسٹ انجینئرنگ ایک API سے شروع ہو سکتی ہے۔ کاروباری افراد اپنے خاص کاروبار کے حوالے سے، ماہرین کی معلومات، ٹولز کے عمل، صارفین کے ڈیٹا اور جائزہ کے معیارات کو منظم کرکے عام ماڈل کو ایک تنگ سیناریو میں زیادہ قابل اعتماد بناسکتے ہیں۔

جیف ڈین نے اپنا ایک مثال پیش کیا۔

وہ اور سنجے گھیماوات عام طور پر گوگل کے اندر کے بنیادی لائبریریز کو بہتر بناتے ہیں۔ یہ ڈیٹا سٹرکچرز لاکھوں پروسیسز پر چل سکتے ہیں، ایک کلک کریں Performance differences are amplified by scale. The traditional approach involves engineers first writing microbenchmarks, measuring current performance, modifying the code, rerunning the benchmarks, observing cache usage and performance changes, and then continuing to iterate.

دو افراد نے اس کام کے طریقہ کار کو ایک ایجنٹ کے مہارت کے طور پر لکھا۔ ماڈل نے بنچ مارک چلانا، کوڈ میں تبدیلی کرنا، نتائج کا موازنہ کرنا اور پیمائش کے مطابق بہتر بنانے کا طریقہ سیکھ لیا۔

ہم نے صرف انسانوں کے استعمال کرنے والے طریقے کو ماڈل کے استعمال کے لیے شکل دے دی۔

یہ جملہ تقریباً کنٹیکسٹ انجینئرنگ کی سادہ تعریف ہے۔

یہ کوئی راز کے الفاظ کی ٹرک یا زیادہ پس منظر کا اضافہ نہیں ہے۔ یہ تین سوالوں کے جواب دینا ہے: ماہرین کیا مراحل اپناتے ہیں، نظام میں کون سے قابل اعتماد ٹولز ہیں، اور نتائج کیسے تصدیق کیے جائیں۔

جب ان مواد کو ڈھانچہ دیا جاتا ہے، تو ماڈل کو زیادہ علم نہیں ملتا، بلکہ ایک قابل دہرائی طریقہ کار ملتا ہے۔

یہی وجہ ہے کہ "技能 (skill)" Agent کے ایکوسسٹم میں ایک اہم اثاثہ بن گئی ہے۔ ایک بہترین مہارت فائل ممکنہ طور پر ٹیم کے کئی سالوں کے غیر ظاہری تجربات کو ایک ساتھ جمع کرتی ہے۔ یہ ماڈل کو بتاتی ہے کہ کسی قسم کے مسئلے کا مقابلہ کرتے وقت پہلے کیا کرنا ہے، کون سی غلطیاں سب سے عام ہیں، کون سے ٹولز قابلِ اعتماد ہیں، اور کس نتیجے کو مکمل سمجھا جائے۔

مستقبل کی کمپنیوں کی تمیز، صرف ماڈل وزن میں ہی نہیں ہوگی، بلکہ ان تجربات میں بھی ہوگی جو عمل کے راستوں میں کوڈ کی گئی ہیں۔

تقریباً ہر ایسا ٹیم جس نے ایجینٹ کا کام کیا ہے، اس نے ایک ہی سیکنری دیکھی ہے۔

پہلے کچھ مراحل آسان تھے۔ ماڈل ضروریات پڑھ سکتا تھا، ٹولز استعمال کر سکتا تھا، اور کوڈ لکھ سکتا تھا۔ لیکن 30ویں یا 50ویں مرحلے پر، یہ مقصد بھولنا شروع ہو جاتا ہے، حالت کو غلط سمجھتا ہے، ایک ہی حرکت دہراتا ہے، یا غلط راستے پر مزید آگے بڑھ جاتا ہے۔

جیف ڈین نے ایک وجوہ کو باہر کی توزیع کے مسائل کی وجہ سے قرار دیا۔

ماڈل تربیت کے دوران بہت سے عام کاموں کو دیکھ چکا ہے۔ جب تک کام اس کے پرچھائیں راستے پر رہتا ہے، اس کی کارکردگی عام طور پر اچھی ہوتی ہے۔ لیکن جب لگاتار عمل اسے ناپرچھائیں حالت میں لے جاتا ہے، تو کارکردگی اچانک کم ہو جاتی ہے۔ جتنا زیادہ آرام کے علاقے سے دور ہوتا جائے، اتنے ہی زیادہ غلطیاں جمع ہونے کا امکان ہوتا ہے۔

ایک حل یہ ہے کہ مہارتیں اور تجاویز فراہم کی جائیں تاکہ ماڈل کو اس کے جانے والے راستوں پر محدود رکھا جا سکے۔ دوسرا حل متعدد ایجنٹ سسٹم کا استعمال کرنا ہے۔

کئی ایجینٹس مختلف منصوبوں کی کوشش کر سکتے ہیں، اور دوسرے ماڈل کو جائزہ لینے والے کے طور پر مقرر کیا جا سکتا ہے تاکہ یہ فیصلہ کیا جا سکے کہ کون سے راستے زیادہ وعدہ کرتے ہیں۔ ناکام شاخیں ختم کر دی جاتی ہیں اور کامیاب شاخیں آگے بڑھتی رہتی ہیں۔ یہ بنیادی طور پر استدلال کے مرحلے میں تلاش کرنا ہے۔

یہ انسانی ٹیم کے کام کرنے کے طریقے سے بے قرار نہیں ہے۔ پیچیدہ مسائل کے سامنے، ایک شخص تجویز پیش کرتا ہے، دوسرا خطرات کا جائزہ لیتا ہے، اور تیسرا تجربہ کرتا ہے۔ ٹیم اپنی تمام امیدوں کو صرف پہلے خیال پر نہیں لگاتی، بلکہ تقسیمِ کام اور فیڈ بیک کے ذریعے ایک نقطہ کی خرابی کو کم کرتی ہے۔

جتنا طویل عرصہ ایجنٹ چلتا ہے، اتنا ہی سسٹم ڈیزائن ایک بار کی درستگی پر انحصار نہیں کر سکتا۔

اصلی اور قابل اعتماد لمبی مدت کا ایجینٹ، چیک پوائنٹس، حالت کا انتظام، واپسی، شاخوں کی تلاش، باہری جائزہ، اجازت کنٹرول اور خرابیوں کی بحالی کی ضرورت ہوتی ہے۔ یہ ایک لمبے چیٹ ونڈو کی بجائے ایک ڈسٹریبیوٹڈ سسٹم کی طرح ہے۔

یہی وہ جگہ ہے جہاں جیف ڈین کا پس منظر دوبارہ اہمیت حاصل کرنے لگتا ہے۔

MapReduce کا ایک مرکزی مسئلہ یہ ہے کہ کیسے بہت سی غیر قابل اعتماد مشینوں کے ذریعے قابل اعتماد کمپیوٹیشن کی جائے۔ آج کے Agent سسٹم کا سامنا اسی قسم کے تضاد سے ہے: ایک بار کا ماڈل کال مکمل طور پر مثالی نہیں ہوتا، ٹولز بھی ناکام ہو سکتے ہیں، لیکن پورا کام ممکنہ حد تک مستقل طریقے سے مکمل ہونا چاہئے۔

مستقبل کا بہترین ایجینٹ پلیٹ فارم، کئی ڈسٹریبیوٹڈ سسٹم کے خیالات کو ورثہ میں حاصل کر سکتا ہے۔ کام کو تقسیم کیا جا سکتا ہے، نتائج کی تصدیق کی جا سکتی ہے، ناکامی دوبارہ کوشش کی جا سکتی ہے، حالت کو بحال کیا جا سکتا ہے، اور مقامی خرابی پورے عمل کو تباہ نہیں کرنی چاہئے۔

جب جیف ڈین کہتے ہیں کہ ایجنٹ کچھ دن یا کئی ہفتے تک چلے گا، تو وہ لمبی چیٹ کا تصور نہیں کر رہے۔ وہ ایک نئی کمپیوٹنگ انفراسٹرکچر کا تصور کر رہے ہیں۔

اسٹارٹ اپ اسکول کے حوالے سے، سب سے زیادہ توجہ حاصل کرنے والا سوال بالکل کاروباری مواقع ہیں۔

گوگل چپس، ڈیٹا سینٹر، ماڈلز اور مصنوعات کو مل کر ڈیزائن کر سکتا ہے۔ جیمنی جیسے جامع ماڈلز اب بھی اپنی صلاحیتوں کے دائرے کو تیزی سے وساعت دے رہے ہیں۔ ایک دو یا تین افراد کی ٹیم کس طرح جیت سکتی ہے؟

جیف ڈین کا جواب رومانوی نہیں تھا۔

چھوٹی ٹیم کے لیے مواقع عام ماڈلز کی توجہ سے باہر کے خاص شعبوں میں موجود ہوتے ہیں۔ کاروباری افراد مصنوعات کے انٹرفیس، ملکی ڈیٹا، ورک فلو اور شعبہ جاتی مہارت کو جوڑ کر ایک تنگ سیناریو میں زیادہ درستگی اور بہتر تجربہ فراہم کر سکتے ہیں۔

لیکن اس نے فوراً ایک انتباہ بھی دیا: جنرل ماڈلز تیزی سے طاقتور ہو رہے ہیں۔ آج کے لیے الگ الگ پروڈکٹ فیچرز جو نظر آتے ہیں، چھ ماہ یا دس ماہ بعد، بنیادی ماڈلز کے ذریعہ براہ راست کور کر دیے جائیں گے۔

اس لیے، کاروباری اداروں کو یہ فیصلہ کرنا ہوگا کہ ان کی ترجیحات مستحکم ہیں یا نہیں۔

جیف ڈین نے ایک بہت مخصوص فلٹر کا معیار دیا: وہ کام تلاش کریں جن کی موجودہ جامع ماڈل کامیابی کی شرح 0% یا 1% کے قریب ہے، نہ کہ جو 20% تک کر سکتے ہیں۔

اگر ماڈل مکمل طور پر ناکام ہو جائے، تو یہ ایک اچھا علامت ہو سکتی ہے۔ اگر یہ پہلے سے کچھ کر رہا ہے، صرف اچھی طرح نہیں کر رہا، تو اس کا مطلب یہ ضروری نہیں کہ اچھا علامت ہے۔

وجہ بہت آسان ہے۔ 20% کا مطلب ہے کہ صلاحیتیں شروع ہو چکی ہیں۔ مزید ڈیٹا، بڑے ماڈلز اور لمبی استدلال کے ساتھ، اسے جلد ہی قابل استعمال بنایا جا سکتا ہے۔ جبکہ 0% یا 1% کا مطلب ہے کہ کام میں ممکنہ طور پر اہم ڈیٹا، خاص ٹولز، شعبے کی فیڈ بیک، یا ایک جامع ماڈل کے لیے مختصر عرصے میں حاصل کرنا مشکل صلاحیت کی کمی ہے۔

یہ جیف ڈین کا "1% قاعدہ" کہلایا جا سکتا ہے۔

یہ کسی بھی کاروباری کو سب سے مشکل مسائل کو چننے کی تجویز نہیں ہے، بلکہ عام ماڈلز میں ساختی نابینائی کے مسائل کو تلاش کرنے کی تجویز ہے۔

یہ اندھے نکات تقریباً تین قسم کے ہوتے ہیں۔

پہلا قسم ملکی ڈیٹا ہے۔ عام ماڈل دنیا کی معلومات کو منظم کر سکتے ہیں، لیکن کسی صارف کے تمام پروفائل، کسی کمپنی کے اندر کے عمل، یا کسی ڈیوائس سے پیدا ہونے والے ریل ٹائم ڈیٹا تک رسائی نہیں کر سکتے۔ جب کوئی شروعاتی پروڈکٹ ان ڈیٹا تک حاصل کر لے تو وہ بنیادی ماڈل سے مختلف نظریہ حاصل کر لیتا ہے۔

دوسرا قسم پیشہ ورانہ جائزہ ہے۔ بہت سے صنعتیں تخلیقی صلاحیت کی کمی کی بجائے قابل اعتماد جائزہ کی کمی کا شکار ہیں۔ طب، مواد، چپ، تیاری اور سائنسی تحقیق، سب کو اعلیٰ معیار کے تصدیق کنندگان کی ضرورت ہے۔ جو شخص "کیا درست ہے" کو تعریف کر سکتا ہے، وہ ایجنٹ کو مستقل بہتر بنانے میں کامیاب ہو سکتا ہے۔

تیسری قسم تنگ اور گہرے ماڈلز ہیں۔ AlphaFold ایک جامع چیٹ ماڈل نہیں ہے، بلکہ اس نے پروٹین سٹرکچر کے مسئلے کے لیے انتہائی ماہرانہ صلاحیتیں تعمیر کی ہیں۔ میٹریل سائنس، چپ ڈیزائن اور دیگر ماہرانہ شعبوں میں بھی اس طرح کے مواقع پیدا ہو سکتے ہیں۔

یہ فیصلہ کرنے والا عمل کاروباری قائم کرنے والوں کے لیے آسان نہیں ہے۔ اس کے لیے ٹیم کو ماڈل کی صلاحیتوں کی حدود اور صنعت کے گہرے مسائل دونوں کو سمجھنا ہوگا۔ صرف AI کو جاننا، ایسے فنکشنز بنانے کی طرف لے جائے گا جو جلد ہی پلیٹ فارم کے ذریعے ادغام ہو جائیں گے۔ صرف صنعت کو جاننا، ماڈل کی ترقی کی رفتار کو کم اندازہ لگانے کی طرف لے جائے گا۔

حقیقی موقع دونوں کے درمیان کے تقسیمی نقطے پر ہے۔

ڈائنا ایک فرضیہ پیش کرتی ہیں: اگر مستقبل میں ہر موجد 50، 100 ایجنٹس کا انتظام одно وقت کر سکے، اور تمام کوڈ ایجنٹس لکھیں، تو کون سی صلاحیت نایاب ہو جائے گی؟

جیف ڈین کا جواب "ذائقہ" تھا۔

زیادہ درست طور پر، یہ فیصلہ کرنا کہ ایجینٹ کو کیا کرنا چاہیے۔

وہ سمجھتا ہے کہ تحقیق کا زیادہ تر اہمیت تجربات کو کتنی خوبصورتی سے انجام دینے میں نہیں، بلکہ اس میں ہے کہ کیا آپ نے ایک ایسا مسئلہ منتخب کیا ہے جس کی تحقیق کی جا سکے۔ ایک ٹیم سب سے بہترین طریقوں کے ساتھ ایک بے اہم تحقیق مکمل کر سکتی ہے۔ یا وہ ایک اہم مسئلہ پر توجہ مرکوز کر سکتی ہے، جس کا حل پورے شعبے کو بدل دے۔

ایجینٹ نے انجام دینے کی لاگت کو کم کر دیا، اس کے بعد مسئلہ کا انتخاب کی اہمیت مزید بڑھ جائے گی۔

گزشتہ زمانے میں، ایک اندھیری خیال ترقی کی لاگت کی وجہ سے خود بخود غائب ہو جاتا تھا۔ مستقبل میں، اگر کافی ایجنٹس کو متحرک کیا جائے، تو بہت سے خیالات تیزی سے پروٹو ٹائپ بن جائیں گے۔ دنیا اس کی وجہ سے خود بخود زیادہ اچھے مصنوعات نہیں دکھائی دے گی، صرف زیادہ مصنوعات دکھائی دیں گی۔

اسپیسیفیکیشنز بھی زیادہ اہمیت رکھنے لگیں گی۔

جیف ڈین نے کہا کہ ورچوئل ایجینٹ کے ساتھ تعاون کرتے وقت، جتنا واضح مقصد ہو، اتنا ہی زیادہ کامیابی کا امکان ہوتا ہے۔ گزشتہ زمانے میں، ایک سینئر انجینئر کو ادھوری ضروریات دی جاتی تھیں، جو مزید سوالات کر سکتا تھا اور مشترکہ پس منظر کی بنیاد پر نیت کو مکمل کر سکتا تھا۔ ایجینٹ بھی سوال کر سکتا ہے، لیکن حوالہ جات کی کمی میں وہ زیادہ تر خود فرضیات بنانے لگتا ہے۔

ایک عام طور پر اعلیٰ کامیابی کا کام، سافٹ ویئر کو ایک پروگرامنگ زبان سے دوسری زبان میں منتقل کرنا ہوتا ہے۔ وجہ یہ نہیں کہ منتقلی آسان ہے، بلکہ یہ کہ اس کی تفصیلات بہت مکمل ہوتی ہیں۔ پرانا کوڈ رویہ کو تعریف کرتا ہے، ٹیسٹ حدود کو تعریف کرتے ہیں، اور ایجنٹ مکمل طور پر نئے ورژن کے ساتھ مطابقت رکھنے تک ہر نقطہ کا موازنہ کر سکتا ہے۔

اب ایجینٹ آپ کے لیے سافٹ ویئر لکھ سکتا ہے، لیکن آپ کو یہ واضح کرنا زیادہ اہم ہو گیا ہے کہ آپ بالکل کیا چاہتے ہیں۔

یہ جملہ ای آئی نیٹو اداروں کے لیے ب без تفصیل اہم ہے۔

مستقبل کے مینیجرز صرف کام تقسیم نہیں کریں گے، بلکہ زیادہ واضح مقاصد اور قبول کی معیارات ترتیب دیں گے۔ ڈیزائن دستاویزات صرف ٹیم کے مواصلات کا ذریعہ نہیں رہیں گی، بلکہ مشین کے لیے انپٹ بن جائیں گی۔ ٹیسٹنگ، میٹرکس، پابندیاں اور مثالیں، ترقیاتی عمل کے آخر سے طے شدہ کام کے مرحلے میں منتقل ہو جائیں گی۔

"ذائقہ" کو کیسے تربیت دیا جائے، اس کے بارے میں جیف ڈین کا طریقہ بہت عملی ہے۔

اپنے لیے ایک فہرست تیار کریں جس میں آپ کے خیال میں اگلے 12 ماہ میں اہم ہونے والی باتیں ہیں۔ آپ کو ان میں سے سب کو کرنے کی ضرورت نہیں۔ 12 ماہ بعد دوبارہ جانچیں کہ کون سے پیش گوئیاں سچ ثابت ہوئیں، کون سے کسی اور نے کر دیں، اور کون سے کوئی ترقی نہیں ہوئی۔ متعدد پیش گوئیوں کے نمونوں کو جمع کرتے رہنے سے لوگ اپنے فیصلوں کو آہستہ آہستہ درست کرتے جاتے ہیں۔

ذوق صرف فطری صلاحیت نہیں ہے۔ اسے جائزہ لے کر تربیت سے بھی حاصل کیا جا سکتا ہے۔

انٹرویو کے دوسرے حصے میں، جیف ڈین نے ایک کافی پاگل فکری تجربہ شیئر کیا۔

گزشتہ 60 سالوں میں، چپ صنعت نے مزید چھوٹے، زیادہ مستحکم اور کم خطا کی شرح والے ٹرانزسٹرز کی تلاش جاری رکھی ہے۔ یہ مان لیا جاتا ہے کہ ایک ہی ڈیزائن سے بنائی گئی چپیں ممکنہ حد تک مکمل طور پر ایک جیسی ہونی چاہئیں، اور بٹ فلپ کم سے کم ہونا چاہئیے۔

بڑے ڈسٹریبیوٹڈ سسٹمز میں، انجینئرز نے پہلے ہی قبول کر لیا ہے کہ ایک ایک کمپوننٹ خراب ہو سکتا ہے۔ ہارڈ ڈرائیوز خراب ہو سکتی ہیں، مشینیں ڈاؤن ہو سکتی ہیں، اور سوئچز میں مسائل ہو سکتے ہیں۔ سسٹم کی قابلیت کا مطلب یہ نہیں کہ ہر جزو کبھی غلط نہیں ہوتا، بلکہ اس کا مطلب ہے کہ اس میں کاپیاں، چیکس، زائدیت اور بحالی شامل ہوتی ہے۔

تو جیف ڈین نے پوچھا: اگر ٹرانزسٹر روزانہ 20 بار خراب ہو جائیں، جبکہ کچھ ملین سالوں میں ایک بار ہی خراب ہوتے ہیں، تو کیا ہوگا؟

یہ کوئی حقیقی مصنوعات کا منصوبہ نہیں ہے۔ وہ صرف ایک معمول کی فرضیہ کو ختم کرنے کی کوشش کر رہا ہے۔ شاید بہت ناقابل اعتماد ٹرانزسٹرز کو بالکل مختلف طریقے سے تیار کیا جا سکتا ہے، اور نظام کو متعدد راستوں اور اعلیٰ سطح کی زائدہ تعداد کے ذریعے نتائج کو یقینی بنایا جاتا ہے۔

زیادہ تر فکری تجربات کبھی مصنوعات میں تبدیل نہیں ہوتے۔ بہت سے صنعتی طریقے دہائیوں تک جاری رہے ہیں، اور اس کے لیے واقعی کافی وجوہات ہیں۔ لیکن جیف ڈین کا خیال ہے کہ ان وجوہات کو باقاعدگی سے دوبارہ جانچنا چاہیے۔

میپ ریڈیوس کا تصور اسی طرح کے عمل سے آیا ہے۔

گوگل کے ابتدائی کرالر اور انڈیکس سسٹم میں بہت سارے ہاتھ سے لکھے گئے متوازی کوڈ، چیک پوائنٹس اور خرابی کی بحالی کے منطق شامل تھے۔ اصل کاروباری کمپیوٹنگ عام طور پر بہت آسان ہوتی تھی، جیسے تمام ویب صفحات کو پڑھنا اور صفحہ کی زبان کا تعین کرنا۔ لیکن بہت سارے سسٹم کوڈوں نے اس آسان مقصد کو دبادیا۔

جیف ڈین اور سنجے گہماؤٹ نے فنکشنل پروگرامنگ سے متاثر ہو کر بڑے پیمانے پر کاموں کو میپ اور ریڈیوس میں تبدیل کر دیا، اور متوازیت، شیڈولنگ، خرابی کا تحمل اور دوبارہ کوشش کو ایک یکسانہ فریم ورک میں ڈال دیا۔ بزنس ڈویلپرز کو صرف کمپوٹیشن کو ظاہر کرنا ہوتا ہے۔

اس ڈیزائن نے مشین کو غلطی سے آزاد نہیں کیا۔ اس نے غلطیوں کو سسٹم کے ذریعے جذب کرنے کے قابل بنایا۔

آج کے Agent انجینئرنگ کا عمل بھی اسی مراحل میں ہو سکتا ہے۔ بہت سے ٹیمیں اب بھی ہر کام کے لیے پروپٹس، دوبارہ کوشش کے منطق اور ٹولز کے کالز کو ہاتھ سے ترتیب دے رہی ہیں۔ کیا مستقبل میں ایک ایسا مختصر اbstract ظاہر ہوگا جیسے MapReduce، جس سے لمبے Agent کی تقسیم، تصدیق، بحالی اور متوازی تلاش بنیادی صلاحیت بن جائے؟

یہ شاید اگلی لہر کی انفراسٹرکچر کمپنیوں کے لیے موقع ہے۔

جیف ڈین کے لیے مستقبل کی سب سے دلچسپ سمت یہ ہے کہ سائنسی طریقہ کار کو خودکار بنایا جائے۔

روایتی تحقیقی عملیات میں فرضیہ بنانا، تجربہ ڈیزائن کرنا، تجربہ چلانا، نتائج کا تجزیہ کرنا، اور پھر اگلے فرضیہ کی تخلیق شامل ہے۔ اس حلقوں کی رفتار طویل عرصے تک تجربات کی لاگت اور تصدیق کی تاخیر کی وجہ سے محدود رہی ہے۔

ای آئی دو حصوں کو تبدیل کر سکتی ہے۔

ایک حصہ زیادہ تجربات کو خودکار طور پر پیش کرنا اور انفیض کرنا ہے۔ دوسرا حصہ مہنگے ویریفائرز کو سستے تقریبی ماڈلز میں تبدیل کرنا ہے۔

جیف ڈین نے کوانٹم کیمیسٹری کا مثال دیا۔ تحقیق کار ایک مولیکول کی ساخت کے خصوصیات کا جائزہ لینے کے لیے ڈینسٹی فنکشنل تھیوری کی شمولیت کر سکتے ہیں۔ ایک شمولیت مکمل رات لے سکتی ہے۔ گوگل کے تحقیق کاروں نے بہت سارے شمولیت کے ان پٹ اور آؤٹ پٹ کا استعمال کرتے ہوئے ایک نیورل نیٹ ورک اپروکسیمیٹر تربیت دی۔ اس نے اصل شمولیت کی درستگی کے قریب قریب پہنچا، لیکن تقریباً 300,000 گنا تیز۔

جیسے جیسے تصدیق کی رفتار بدلے گی، سائنسی سوالات کی شکل بھی بدل جائے گی۔

پہلے، 10 ملین امیدواروں کی فلٹرنگ ایک ایسا منصوبہ تھا جس کے لیے ماہوں کی کمپیوٹنگ طاقت درکار ہوتی تھی۔ اب، ریسرچر کے دوپہر کے کھانے کے دوران ہی سسٹم ابتدائی فلٹرنگ مکمل کر دیتا ہے۔ تجربات اب قیمتی، ایک بار کے اندازہ سے زیادہ، اعلیٰ ترین تلاش بن چکے ہیں۔

یہی AlphaEvolve، AlphaChip وغیرہ جیسے سسٹمز کی پیچھے مشترکہ منطق ہے۔ ماڈل تجاویز پیش کرتا ہے، ٹولز تجاویز کو عمل میں لاتے ہیں، اور ایوالویٹر نتائج کا انتخاب کرتا ہے، اچھے نتائج اگلے راؤنڈ میں جاتے ہیں۔ جب تک بند حلقوں کی رفتار کافی تیز ہو، سسٹم بڑے حل کے جگہ میں مستقل تلاش جاری رکھے گا۔

ماشینی سیکھنا خود بھی اس خودکار سائنس کا موضوع بن جائے گا۔

آج، بڑے تحقیقی ٹیمیں عام طور پر انسانوں کی طرف سے نئی آرکیٹیکچر یا ٹریننگ طریقہ کار پیش کی جاتی ہیں، جو پہلے چھوٹے پیمانے کے تجربات کرتی ہیں اور پھر وعدہ خور حل کو بڑھاتی ہیں۔ جیف ڈین کا خیال ہے کہ ماڈل کو ان میں سے زیادہ سے زیادہ مراحل سنبھالنے میں کوئی بنیادی رکاوٹ نہیں ہے۔ انسان اعلیٰ سطح کی ہدایت دیتا ہے، اور سسٹم خودکار طور پر ساخت، ڈیٹا ریسیپی اور ٹریننگ حکمت عملی کا جائزہ لے کر کامیاب تجربات کو ملا کر نئے ماڈل تخلیق کرتا ہے۔

مستقبل میں تحقیقی کارکردگی کا اندازہ لگانے کا معیار صرف فلوٹنگ پوائنٹ آپریشن فی سیکنڈ نہیں ہوگا، بلکہ "ہر اکائی کمپوٹیشنل پاور سے کتنی مؤثر دریافت حاصل ہوتی ہے" ہوگا۔

کیلکولیشن کی طاقت ضرور اہم ہے۔ لیکن کیلکولیشن کی طاقت کو دریافت میں کیسے تبدیل کیا جائے، اس سے زیادہ اہم ہے۔

2014 میں، جیف ڈین، جیوف ہنٹن اور اوریول وینالز نے معرفت کی ڈسٹلیشن کے بارے میں ایک تحقیقی مقالہ جمع کرایا۔ آج، معرفت کی ڈسٹلیشن ماڈل کمپریشن اور صلاحیتوں کے منتقل ہونے کا بنیادی طریقہ بن چکی ہے۔ بڑے ماڈلز، جو استاد کے کردار میں ہوتے ہیں، اپنی صلاحیتیں چھوٹے، تیز اور سستے طالب علم ماڈلز کو منتقل کرتے ہیں۔

یہ مقالہ جس نے بعد میں گہرا اثر ڈالا، اس وقت NeurIPS نے مسترد کر دیا تھا۔

ایک جانچنے والے کا خیال ہے کہ اس کا "بڑا اثر نہیں پڑے گا"۔ دلچسپی رکھنے والے پڑھنے والے "مسترد ≠ ناکامی! ان اعلیٰ اثر والے تحقیقی مقالات کو بھی ٹاپ کانفرنسوں نے مسترد کر دیا تھا" پر جا سکتے ہیں۔

جیف ڈین نے اس تجربے کے بارے میں غصہ نہیں کیا۔ اس نے کہا کہ ریویور شاید بڑے پیمانے پر AI سروسز کے سامنے والے عملی مسائل کو نہیں جانتے ہوں۔ گوگل کے لیے، مہنگے بڑے ماڈلز کو کروڑوں صارفین کو سروس فراہم کرنے کے لیے چھوٹے ماڈلز میں تبدیل کرنا واضح طور پر اہم ہے۔ صرف نظریاتی نئے پہلوؤں پر توجہ دینے والے ریویورز کے لیے، یہ اتنا "بنیادی" نہیں لگ سکتا۔

پیپر کو مسترد کرنے کے بعد، ٹیم نے اسے arXiv پر ڈال دیا۔ صنعت نے اسے پڑھا اور اس کا استعمال شروع کر دیا۔

آج، جیمنی کا فلیش ماڈل چھوٹے سائز اور کم لیٹنسی کے ساتھ طاقتور صلاحیتیں برقرار رکھتا ہے، جس میں ڈسٹلیشن ایک اہم طریقہ ہے۔

یہ کہانی صرف "لگاتار کوشش کرنے سے کامیابی ملتی ہے" کا ایک حوصلہ افزا مواد نہیں ہے۔ یہ ظاہر کرتی ہے کہ جائزہ لینے کا نظام ہمیشہ اندھے نکات رکھتا ہے۔ کبھی کبھی، ایک منصوبے کی قیمت صرف اسی شخص کو ہی فوراً نظر آتی ہے جس نے اس نظام کی رکاوٹ کا تجربہ کیا ہو۔

اینٹرپرینیورز کے لیے بھی یہ اہم ہے۔

مارکیٹ، سرمایہ کاروں اور مسابقین کی رد عمل، ممکنہ طور پر رہنمائی کی غلطی کو ظاہر کرتی ہے، یا صرف اس بات کو ظاہر کرتی ہے کہ وہ اسی مسئلے کے ماحول میں نہیں ہیں۔ فرق یہ ہے کہ ٹیم کے پاس کیا کافی مخصوص ثبوت ہیں جو یہ جاننے کے لیے ہیں کہ یہ مسئلہ کیوں اہم ہے اور اب اسے کیوں حل کیا جا سکتا ہے۔

جیف ڈین نے لوگوں کو اندھا پکڑے رہنے کی ترغیب نہیں دی۔ اس نے یہ ترغیب دی: مسئلہ کو سمجھیں، مستقل طور پر جانچیں، اور ایک جائزے کو دنیا کا آخری فیصلہ نہ سمجھیں۔

مکالمے کے اختتام پر، دیانا نے ایک تخیلی سوال پوچھا۔

اگر 1999 میں گوگل میں شامل ہونے والے جوان جیف ڈین کو 2026 میں بھیج دیا جائے، تو وہ ایک سرحدی لیب میں شامل ہو جائے گا یا دو یا تین دوستوں کے ساتھ ایک کمپنی شروع کرے گا؟

جیف ڈین نے کوئی معیاری جواب نہیں دیا۔

بڑی تنظیمیں ساخت، پلیٹ فارم اور بہت سے اچھے ساتھیوں کو رکھتی ہیں۔ اس میں ایک شخص اپنے لیے ناگھرے علم تک پہنچ سکتا ہے اور بالغ مصنوعات کے ذریعے عالمی صارفین کو متاثر کر سکتا ہے۔ چھوٹی ٹیمیں زیادہ آزاد ہوتی ہیں لیکن زیادہ خطرات بھی اٹھاتی ہیں۔ بانی کو ایک مسئلے پر حقیقی طور پر یقین رکھنا چاہیے اور عدم یقین کو کئی سال تک برداشت کرنے کو تیار ہونا چاہیے۔

اس نے جو معیار دیا ہے، وہ "بڑی کمپنی میں شامل ہونا یا شروعات کرنا" سے زیادہ بنیادی ہے۔

اگر میں نے اس مسئلے کو حل کر لیا اور بہترین نتیجہ حقیقت میں پیدا ہو گیا، تو کیا دنیا اس سے واضح طور پر بہتر ہو جائے گی، یا لوگ صرف اسے دیکھ کر کہہ دیں گے، اچھا لگا، اور پھر کچھ نہیں کریں گے؟

اگر جواب صرف "بہت عمدہ" ہے، تو شاید آپ کا سب سے قیمتی وقت خرچ کرنے کے قابل نہیں۔

اس نے ساتھیوں کی اہمیت پر بھی زور دیا۔ ایسے لوگوں کو تلاش کریں جن کی صلاحیتیں آپ کی مکمل کریں، اور جو کم خود کو محسوس کرتے ہوں، تعاون کرنے کو تیار ہوں، اور ساتھ رہنا آسان ہو۔ اصل میں مشکل مسائل عام طور پر لمبے عرصے تک ساتھ کام کرنے کی ضرورت رکھتے ہیں۔ ٹیم کے ارکان کو بہترین طور پر ایسے ہونا چاہئے جن کے پاس دوسروں کے پاس نہ ہونے والے ٹولز ہوں، اور مشترکہ کام کے دوران اپنی "ٹول بیلٹ" مزید وسعت دیں۔

اس بات میں ایک پرانے انداز کے انجینئر کی سادگی ہے۔

AI صنعت اکثر اسٹیکس گروتھ، سپر انسٹیلیجنس اور بڑے فنڈنگ کے بارے میں بات کرتی ہے۔ لیکن جیف ڈین کے آخری الفاظ تین چھوٹی باتوں پر مرکوز تھے: ایک ایسا اصلی مسئلہ منتخب کریں جس سے آپ واقعی دلچسپی رکھتے ہو، جس لوگوں کے ساتھ آپ کام کرنا پسند کرتے ہو، اور دنیا کو بہتر بنانے کے لیے اپنا بہترین کوشش کریں۔

جیف ڈین کے کیریئر میں کئی ایسے کہانیاں ہیں جنہیں بار بار سنایا جاتا ہے۔

اس نے Sanjay Ghemawat کے ساتھ کچھ دنوں میں سرچ سسٹم کو دوبارہ لکھا، جس سے انڈیکس میموری میں چلنا شروع ہو گیا۔ تین منٹ کی آواز کے بارے میں ایک تخمہ، Google کو TPU بنانے پر مجبور کر گیا۔ MapReduce نے بڑے پیمانے پر پیرلل اور فولٹ ٹالرنس کو ایک یکسانہ ابسترکشن کے اندر چھپا دیا۔ کنوز ڈسٹلیشن ایک مسترد پیپر سے شروع ہو کر صنعت کی بنیادی ٹیکنالوجی بن گیا۔

یہ کہانیاں اسے ایک مسلسل متاثر ہونے والے جنیئس کے طور پر تصور کرنے کے لیے آسان ہیں۔

لیکن اس انٹرویو سے ظاہر ہوتا ہے کہ اس کا طریقہ بالکل ایک جیسا ہے۔

سب سے پہلے سائیز کی درجہ بندی کریں۔ پھر اصل بالکن نکالیں۔ اس کے بعد ڈیفالٹ فرضیات کو چیلنج کریں اور ایک سادہ تر تصور تعمیر کریں۔ آخر میں، پیمائش اور فیڈ بیک کے ذریعے سسٹم کو لگاتار بہتر بنائیں۔

آج کے دن AI صنعت ایک مشابہ تبدیلی کا تجربہ کر رہی ہے۔

ماڈل کافی طاقتور ہو چکا ہے، اس قدر طاقتور کہ اسے جونیئر انجینئر کے سطح کے کام سونپے جا سکتے ہیں۔ اب، عملی پیداواریت کا فیصلہ صرف ماڈل کی ذہانت نہیں، بلکہ استدلال کی لاگت، سیاق و سباق کی تنظیم، ٹولز کی معیار، تصدیق کی رفتار اور لمبے عرصے تک کام کرنے کی قابلیت ہے۔

ایجنسٹ ٹیم کے ممبر کی طرح زیادہ ہوتے جائیں گے۔ لیکن انہیں واضح仕様، مہارت، چیک پوائنٹس، جائزہ لینے والے، اور ناکامی کو برداشت کرنے والی ایک نظام کی ضرورت ہے۔

کاروباری شروعاتی کمپنیوں کے مواقع ختم نہیں ہو جائیں گے، بلکہ زیادہ سخت ہو جائیں گے۔ بہتر یہ ہے کہ آپ ایسے مسائل کی تلاش کریں جن میں کامیابی کا احتمال اب بھی 0% یا 1% کے قریب ہو، جہاں مخصوص ڈیٹا، ماہر جائزہ لینے والے، تنگ شعبے کے ماڈل، یا بالکل نئے سسٹم ایبسٹرکشن چھپے ہو سکتے ہیں۔

جب کوڈ جنریشن زیادہ سستا ہوتا جا رہا ہے، تو اصل میں مہنگا ہونے والا مسئلہ خود ہوگا۔

کیا کرنا چاہیے؟ کون سی پابندیاں obsolete ہو چکی ہیں؟ کون سا تبدیلی ابھی حد عبور کر چکی ہے؟ کون سی نظام اگر 50 گنا تیز ہو جائے تو مکمل طور پر الگ مصنوع بن جائے گی؟

جیف ڈین نے 6000 کاروباری شخصیات کے لیے کوئی مواقع کی فہرست نہیں دی۔ اس نے ایک زیادہ مستحکم سوچ کا طریقہ دیا۔

سب سے زیادہ گرم جواب کی پیروی میں جلد بازی نہ کریں۔

سب سے پہلے مسئلہ کا حساب لگائیں۔

حوالہ لنک

https://x.com/ycombinator/status/2082938685071491219

https://www.ycrootaccess.com/p/jeff-dean-the-1-rule-for-building

یہ مضمون ویچن گروپ "机器之心" (ID: almosthuman2014) سے ہے، مصنف: Panda