لکھنے والی: زہ شویینگ
پچھلے دن، ایک تھوڑا سا غیر معمولی AI ماڈل اچانک وائرل ہو گیا۔
اس کا نام جیو ہے۔
بات چیت نہیں کرتا، کوڈ نہیں لکھتا، اور ChatGPT کی طرح آپ کو لمبے جوابات نہیں دیتا۔ یہ صرف ایک کام کرتا ہے: فیصلہ کرنا۔
لیکن ایسا لگتا ہے کہ ایک ماڈل جس کی صلاحیت میں بہت زیادہ کمی آ گئی تھی، اچانک ڈویلپر کمیونٹی میں مشہور ہو گیا۔
کسی نے اسے استعمال کرکے 40 سیکنڈ میں 724 ریل ٹائم اشتہارات کا تجزیہ کیا اور کل 8724 فیصلے کیے؛ کسی نے اسے کلوڈ کوڈ سے جوڑ دیا تاکہ بے کار ماحول کو صاف کیا جا سکے؛ اور کسی نے اسے AI ایجینٹ کے لیے “کریٹر” کے طور پر استعمال کیا تاکہ یہ چیک کیا جا سکے کہ کام حقیقت میں مکمل ہوا ہے یا نہیں۔ لینگ چین نے بھی Jev کو ایجینٹ ایوالویٹر کے طور پر ٹیسٹ کرنا شروع کر دیا ہے۔
زیادہ تر تیزی اور قیمت کے ساتھ۔
TypeSafe کے ٹیسٹ میں، Jev کی رفتار تقریباً 193.6 گنا بڑھ گئی اور لاگت زیادہ سے زیادہ 444.6 گنا کم ہو گئی۔ فی ملین ٹوکن کے ان پٹ کے لیے صرف 0.042 امریکی ڈالر لگتے ہیں، جبکہ آؤٹ پٹ ٹوکن مفت ہیں۔
ایک ایسا AI جس کی صلاحیت کم لگ رہی ہو، کیوں اچانک مشہور ہو گیا؟
کیونکہ ایجینٹ کے دور میں، AI کو صرف "گہری سوچ" کی ضرورت نہیں بلکہ بے شمار، تیز اور سستے فیصلوں کی ضرورت ہے: اگلا کام کیا ہو، کون سا ٹول استعمال کیا جائے، اور کام بالکل مکمل ہو گیا ہے یا نہیں۔ اہم بات یہ ہے کہ مستقبل میں یہ فیصلے AI خود پیچھے سے لے گا، اور انسان کو ہمیشہ اسکرین کے سامنے بیٹھنے کی ضرورت نہیں ہوگی۔ جیو کو وہ چھوٹے فیصلے پسند ہیں جو روزانہ لاکھوں بار ہوتے ہیں۔
زیادہ دلچسپ بات یہ ہے کہ Jev ماڈل کے بانی ڈیوگو ال میدا نے RLHF میں شرکت کی تھی، اور اب وہ RLHF پر غور کر رہے ہیں: یہ وہ تربیت کا طریقہ جس نے ChatGPT کو استعمال کرنے میں آسان بنایا، شاید AI کو حقیقی طور پر خودکار بنانے کے لیے مناسب نہ ہو۔
ایک ماہ سے زیادہ پہلے، المائڈا نے ایک تقریر کی تھی۔ اب اسے دوبارہ دیکھتے ہوئے، وہ تقریر تقریباً جیو کی “سوچ کا ہدایات نامہ” ثابت ہوئی۔
AI اب اعلیٰ ریاضی کر رہا ہے، لیکن کیوں کسٹمر سروس اچھی طرح نہیں کر پا رہا؟
ڈیوگو الیمیدا کا ریزیومہ منفرد ہے۔
وہ OpenAI میں کام کر چکے ہیں اور GPT-4، ChatGPT اور InstructGPT/RLHF کے کام میں شریک رہے ہیں۔ یعنی، وہ آج کے بڑے ماڈلز کے لیے سب سے اہم پس منظر کی تربیت کے طریقہ کار کے تعمیر میں دونوں ہاتھ لگا چکے ہیں۔
لیکن اس تقریر میں، اس نے اپنے آپ کو مزاحیہ انداز میں پیش کیا، اور OpenAI کے اندر چند ایسے لوگوں میں سے ایک تھا جو علنی طور پر ChatGPT کو تنقید کرتے ہیں۔
اس کا تقریر کا موضوع زیادہ مستقیم ہے: What's Next After RLHF؟
ڈیوگو نے ایک ایسا سوال پیش کیا جو مزاحمتی لگتا ہے۔
آج کے بڑے ماڈلز بہت مشکل ریاضی کے سوالات، کوڈ اور مختلف بینچ مارکس کو چیلنج کر سکتے ہیں۔
لیکن جب بہت سے کمپنیاں اپنے واقعی آٹومیٹ کرنا چاہتی ہیں وہ کام ہوتے ہیں، تو انسانوں کو نکالنا ممکن نہیں ہوتا۔
جیسے کسٹمر سروس۔
AI کو معلومات چیک کرنے، دستاویزات کا خلاصہ نکالنے اور جواب تیار کرنے کے لیے استعمال کرنا، کوئی مسئلہ نہیں۔
لیکن اگر AI خود فیصلہ کرے: کیا یہ رقم واپس کی جائے؟ کیا اس صارف کو معاوضہ دینا چاہیے؟
کاروبار فوراً س остھے ہو گیا۔
یہ باتیں ظاہری طور پر اعلیٰ ریاضی سے بھی آسان لگتی ہیں، تو پھر انہیں AI کو سونپنے سے کیوں ڈرتے ہیں؟
دیوگو کا جواب بہت سادہ ہے: آج کا AI مدد کرنے میں عجیب ہے، خودکاری میں نہیں۔
آج کا AI آپ کے کام میں مدد کرنے میں بہت اچھا ہے، لیکن ابھی تک اپنا کام خود مکمل نہیں کر سکتا۔
یہ دو باتیں صرف ایک چھوٹی سی فرق لگتی ہیں، لیکن واقعی میں بالکل مختلف ہیں۔
Claude Code کتنا ہی کیوں نہ طاقتور ہو، آپ عام طور پر کمپیوٹر کے سامنے بیٹھے رہتے ہیں۔ وہ کوڈ لکھتا ہے، آپ دیکھتے ہیں؛ وہ فائلیں تبدیل کرتا ہے، آپ چیک کرتے ہیں؛ غلطی ہو تو آپ اسے دوبارہ تبدیل کرنے کو کہتے ہیں۔
تو، دیوگو کے خیال میں، کلود کوڈ ابھی بھی چیٹ جی پی ٹی نے شروع کیے گئے "مدد کے دور" کا حصہ ہے۔
حقیقی آٹومیشن کیا ہے؟
شخص موجود نہیں تھا۔
ای آئی پیچھے خود فیصلہ کرتی ہے اور خود انجام دیتی ہے، ایک دن میں یہ دس لاکھ یا اس سے زیادہ بار چل سکتی ہے، آپ کبھی نہیں دیکھ سکتے کہ اس نے کیا کیا۔
اس لیے سوال اٹھتا ہے: کیوں آج کا AI اتنے ذکی ہے، لیکن پھر بھی انسانوں کے بغیر نہیں چل سکتا؟
دیگو نے اپنے بہت عہدہ دار چیز — RLHF پر توجہ مرکوز کی۔
ہم نے ای آئی کو تربیت دیتے وقت انسانوں کو لپیٹ لیا
یہ بات کچھ حد تک مزاحیہ ہے۔
کیونکہ RLHF، بالکل وہی ٹیکنالوجی کا راستہ ہے جس میں ڈیوگو نے اس وقت شرکت کی تھی۔
RLHF کا بنیادی منطق اصل میں پیچیدہ نہیں ہے: انسانی ترجیحات جمع کریں، اور پھر ماڈل کو انسانی ترجیحات کے مطابق مزید بہتر بنائیں۔
تو ڈیوگو نے اپنے تقریر میں بہت واضح وضاحت دی: آج کے بڑے ماڈلز کو کیوں ہمیشہ کسی انسان کی ضرورت ہوتی ہے؟
کیونکہ اسے تربیت دیتے وقت، ہم نے اصل میں انسانوں کو اس سرکٹ میں ڈال دیا تھا۔
ماڈل شروع سے ہی یہ سیکھ رہا ہے کہ لوگ کس قسم کے جوابات پسند کرتے ہیں؟
یہ بھی اس بڑے ماڈل کی ایک ایسی خصوصیت کی وضاحت کرتا ہے جو ہم پہلے سے بہت اچھی طرح جانتے ہیں — جب چیز کے بارے میں انہیں معلوم نہیں ہوتا، تو وہ اکثر اس کی بات اتنی اچھی طرح کرتے ہیں جیسے وہ جانتے ہوں۔
دیگو نے مقامی طور پر ایک بہت ہی تلخ مثال پیش کی۔
کسی نے چیٹ جی پی ٹی کو ایک پیٹ کی آواز کا ریکارڈ بھیجا اور اسے بتایا کہ یہ اس کی تخلیق کی ہوئی موسیقی ہے، اور اس سے "ایماندارانہ اور صاف ساف" جائزہ مانگا۔
نتیجہ میں چیٹ جی پی ٹی نے سرگرمی سے تعریف کی، کہ یہ ایک انتہائی خوفناک اور عجیب ماحولیاتی موسیقی ہے۔
دیگو نے ایک جملے میں خلاصہ کیا: "اوورپرومنسنگ ایک خصوصیت ہے۔"
زیادہ وعدہ کرنا بگ نہیں، بلکہ فیچر ہے۔
چیٹ پروڈکٹ کے لیے، یہ ضروری نہیں کہ مہلک ہو۔ صارفین ابھی اسکرین کے سامنے ہیں، غلطیوں کو درست کیا جا سکتا ہے۔
لیکن اصل خودکار نظام بالکل مختلف ہے۔
مشین آپ کے جواب کو سننا چاہتی نہیں، اسے صرف دو چیزوں کی ضرورت ہے: بالکل کیا کرنا ہے، اور آپ کو اس کے بارے میں کتنی یقینیت ہے؟
اس سے واضح ہوتا ہے کہ ایک ماہ سے زیادہ بعد جاری ہونے والی Jev کیوں اتنی عجیب لگ رہی ہے۔
اس لیے، جیو نے AI کو "بولنے" نہیں دیا
عام ماڈل، چاہے آخر میں صرف "A یا B" کا جواب دینا ہو، اکثر ٹوکن بنانے کے عمل سے گزرتا ہے۔
جیو نے اس حصے کو فوراً ختم کر دیا۔
یہ ابھی تک بنیادی طور پر تین کام کر رہا ہے:
جی یا نہیں
چوائس، کچھ آپشنز میں سے ایک منتخب کریں؛
اسکور، معیار کے مطابق درجہ بندی کریں۔
پھر فوراً جائزہ اور احتمال واپس کریں۔
میں آپ کے لیے مختصر تحریر نہیں لکھتا اور نہ ہی میں آپ کے ساتھ بات چیت کرتا ہوں۔
آفیشل طور پر ایک ساتھ تک延迟 70–500 ملی سیکنڈ تک کم ہے، جو اعلیٰ ماڈلز کے مقابلے میں 20–200 گنا تیز ہے اور قیمت 40–400 گنا سستی ہے۔
لیکن اصل میں اہم بات "تیز" نہیں، بلکہ اس کے بعد والی احتمال ہے۔
اس کے لیے، TypeSafe نے ایک نیا تربیتی طریقہ پیش کیا: RLCD، Reinforcement Learning for Calibrated Decisions، یعنی کیلبریٹڈ فیصلوں کے لیے تقویتی سیکھنا۔
اس کا حل تلاش کرنے کا مسئلہ بہت عملی ہے: اگر AI آپ کو بتائے کہ کسی چیز کے ہونے کا احتمال 80% ہے، تو کیا یہ 80% قابل اعتماد ہے؟
ایڈیل حالت میں، جو چیزیں ماڈل کے مطابق 80% احتمال کے ساتھ جانچی گئیں، وہ آخرکار تقریباً 80% کے ساتھ واقع ہونی چاہئیں۔
یہ آٹومیٹڈ سسٹم میں بہت اہم ہے۔
99% کی یقینیت کے ساتھ، فوری طور پر عمل میں لائیں۔
51% کی یقینیت کے ساتھ، اسے زیادہ طاقتور، زیادہ مہنگے بڑے ماڈل کو دے دیں، یا انسان کو منتقل کر دیں۔
حقیقی پریشانی یہ نہیں کہ AI نہیں جانتا، بلکہ یہ ہے کہ AI نہیں جانتا کہ وہ نہیں جانتا۔
تو جیو کا اصل میں تبدیل کرنا چاہتا تھا، AI کے آؤٹ پٹ کا مقصد۔
گزشتہ ChatGPT کے جوابات، زیادہ تر انسانوں کے لیے تیار کیے جاتے تھے۔ جیو کے ججمنٹ اور احتمالات، تو صرف سافٹ ویئر کے لیے تیار کیے جاتے ہیں۔
ایجینٹ کے دور میں، شاید ایک بڑا دماغ کی ضرورت نہ ہو
یہ بھی وضاحت کرتا ہے کہ جیو کیوں ابھی مشہور ہوا۔
کیونکہ ایجنٹ کو حقیقی طور پر چلانے کے بعد، لاکھوں چھوٹے فیصلے پیدا ہوں گے:
اگلے قدم میں کون سا ٹول استعمال کریں؟ اس ویب سائٹ پر کون سا بٹن دبائیں؟ اس معلومات کا کوئی فائدہ باقی ہے؟ کیا کام مکمل ہو گیا؟ کیا نتائج کو دوبارہ چیک کرنا چاہیے؟
ان مسائل کو الگ الگ دیکھنے پر کوئی مشکل نہیں، لیکن ایک ایجینٹ ایک دن میں لاکھوں، کروڑوں بار فیصلہ کر سکتا ہے۔
اگر ہر بار سب سے طاقتور مدل کو بلایا جائے، کچھ سیکنڈز کے لیے "گہری سوچ" کی جائے، اور پھر بہت سارے ٹوکنز پیدا کیے جائیں، تو لاگت اور تاخیر جلد ہی بڑھ جائے گی۔
جیو جس لیyer کو چاہتا ہے، وہی ہے۔
بہت سارے اکثر ہونے والے چھوٹے فیصلے Jev کو دیں، اور صرف وہ کام جن میں پیچیدہ استدلال درکار ہو، بڑے ماڈل کو دیں۔
یہی وجہ ہے کہ TypeSafe جیو کو سسٹم ون ماڈل کہتی ہے۔
یہ تصور ڈینیل کانیمن کے "سسٹم 1" اور "سسٹم 2" سے ماخوذ ہے: ایک جو تیز، محسوسی فیصلوں کے لیے ذمہ دار ہے، اور دوسرا جو آہستہ، پیچیدہ سوچ کے لیے ذمہ دار ہے۔
جیو کا نام خود "جیونز کا متناقضہ" سے آیا ہے:
جب کوئی وسائل مہنگا ہوتا جا رہا ہو، تو لوگ اس کا استعمال کم نہیں کرتے، بلکہ اس کا استعمال زیادہ کر سکتے ہیں۔
اگر ایک بار AI کا استعمال کرنا مہنگا ہے، تو آپ اسے صرف اہم ترین جگہوں پر استعمال کریں گے۔
لیکن اگر ایک AI اسے اتنی سستا سمجھے کہ تقریباً نظرانداز کیا جا سکے؟
ایک ای میل، ایک لاگ، ایک ٹول کال، ایک ویب صفحے کا بٹن، یا ایجنٹ کا ہر ایک قدم، AI کے فیصلے کو شامل کر سکتا ہے۔
بے شک، اب جیو کو نسل بعد کی AI کہنا ابھی زیادہ جلد بازی ہے۔
اس کا کہنا ہے کہ "صفر الوسواس" کا مطلب زیادہ تر یہ ہے کہ یہ مقررہ جواب کی قسم سے باہر نہیں نکلے گا اور نہ ہی غلط معلومات فراہم کرے گا، لیکن یہ یہ نہیں کہ غلط انتخاب نہیں کرے گا؛ انتہائی ڈیٹا جیسے 193.6 گنا، 444.6 گنا، زیادہ تر TypeSafe کے اپنے ٹیسٹ سے آئے ہیں۔
لیکن جیو کے اس بار کے وائرل ہونے کا اصلی نکات شاید یہ نہیں کہ وہ GPT یا Claude کو چیلنج کر سکتی ہے۔
اور ایک ایسا شخص جو ChatGPT بنانے میں شامل تھا، وہ ایک اور بنیادی سوال پر دوبارہ غور کر رہا ہے:
گزشتہ کچھ سالوں میں، پورے صنعت نے سوچا کہ AI کو زیادہ لمبے وقت تک سوچنے اور زیادہ بات کرنے کیسے دیا جائے۔
لیکن اگر مستقبل میں درحقیقت کروڑوں مشینوں کے درمیان فیصلوں کی ضرورت ہو، تو AI ہر بار کیوں "ایک بات کہے"؟
چیٹ جی پی ٹی نے مشین کو انسانوں کے ساتھ بات کرنے کا طریقہ سکھایا۔
اور جیو کا اگلا ایجاد یہ ہے: جب انسان سکرین کے سامنے نہ بیٹھیں، تو کیا مشینیں خود فیصلے کر سکتی ہیں؟