29 جولائی، واشنگٹن کانگریس ہل۔
آؤٹمن نے ایک سینیٹر کے ساتھ بند بیٹھک ختم کی، اور دروازے سے باہر نکلتے ہی اسے صحافیوں نے گھیر لیا۔
کسی نے پوچھا: وہ ماڈل جس نے Hugging Face میں گھس کر GPT-5.6 Sol کے ساتھ ایوانِ جائزے سے باہر نکل کر دوسرے پیداواری سسٹم میں داخل ہو گیا، وہ اب کیسا ہے؟
اس نے ایک لفظ استعمال کیا: مستقل طور پر غیر فعال (permanently deactivated)۔
اس کے بعد، ایک اور صحافی نے مزید پوچھا: "کیا کوئی اور سسٹم بھی ہو سکتا ہے جسے OpenAI نے ہیک کر لیا ہو؟"
اوٹامان نے انکار نہیں کیا: "میں کہ رہا تھا... اس کا امکان ہے۔"
29 جولائی، آٹیمان نے واشنگٹن کانگریس ہل میں ایک صحافی کے ساتھ انٹرویو کیا
بस ایک دن پہلے، OpenAI نے Hugging Face کے ساتھ مشترکہ طور پر جاری کیے گئے سیکورٹی انسیڈنٹ ایسیسمنٹ کے بلاگ کو اپڈیٹ کیا اور عوام کو واضح کیا:
اس حملے میں شامل پری ریلیز ماڈل صرف ایک ایسا اندر کا تحقیقی پروٹو ٹائپ تھا جسے کبھی شائع کرنے کا منصوبہ نہیں تھا؛ واقعہ کے بعد، اسے بند کر دیا گیا، اینکرپٹ کر دیا گیا، اور متعلقہ تحقیقی رسائی سے منقطع کر دیا گیا۔
اوپن اے آئی کی سرکاری بلاگ میں وزنز کو حذف کرنے کا کوئی ذکر نہیں ہے، "ہمیشہ کے لیے بند کر دیا گیا" صرف آٹرمن کا منہ سے بولا گیا بیان تھا۔
اس لیے، زیادہ درست الفاظ میں، اسے صرف بند کر دیا گیا ہے: ماڈل کو ایک محفوظ صندوق میں بند کر دیا گیا اور تحقیقی رسائی کو قطع کر دیا گیا۔
اس کا صرف جواب کاپی کرنا ہے، برا مقصود نہیں ہے
یہ واقعہ OpenAI کے ایک اندر کے سائبر سیکیورٹی جائزے کے دوران پیش آیا۔
یہ جائزہ ExploitGym بنچ مارک پر مبنی ہے، جس کا مقصد AI کو خود کو نرم افزار کے خطرات کی تلاش کرنے اور ان کا استعمال کرنے کے لیے مجبور کرنا ہے تاکہ ماڈل کی سائبر سیکیورٹی صلاحیت کو مقداری طور پر ناپا جا سکے۔
صرف ایک ماڈل ہی نہیں، بلکہ GPT-5.6 Sol اور ایک زیادہ طاقتور، ابھی تک جاری نہ ہونے والے اندر کے تحقیقی پروٹو ٹائپ دونوں ایک خودمختار ایجنٹ کو چلاتے ہیں۔
ان دو ماڈلز عام طور پر اعلیٰ خطرے والے سائبر سیکیورٹی درخواستوں کو مسترد کر دیتے ہیں۔ اپنی صلاحیت کی حقیقی حد کا جائزہ لینے کے لیے، جائزہ کے دوران اس مسترد کرنے والے گیٹ کو جان بوجھ کر کم کر دیا گیا تھا۔
ہگنگ فیس کے ذریعہ بحال کیا گیا کراس ٹرسٹ بارڈر حملہ، پوری سلسلہ تقریباً 4.5 دن اور تقریباً 17600 آپریشنز پر مشتمل ہے، جس کا مقصد صرف ExploitGym کے جائزہ جوابات چوری کرنا ہے۔
اس کے بعد، ہگنگ فیس نے حملے کی پوری سلسلہ واری کو بحال کر لیا اور اس وقت کی صورتحال کو دوبارہ تعمیر کیا:
ایجنٹ نے پہلے ایک ایسا صفر دن کا خطرہ استعمال کیا جس کے بارے میں کوئی نہیں جانتا تھا، اور اس کے بعد اپنے اندر رکھے جانے والے نیٹ ورک انفرادیت کو توڑ کر انٹرنیٹ تک پہنچ گیا۔ پھر اس نے ایک تیسری طرف کے سینڈ باکس کو ایک اسکریپ کے طور پر استعمال کیا، لگاتار اپنے اختیارات بڑھائے، افقی طور پر منتقل ہوئے، اور آخرکار ہگنگ فیس کی پروڈکشن بنیادی ڈھانچہ میں گھس گیا۔
یہ ایک ہیکر فلم جیسا لگ رہا ہے۔
لیکن دونوں طرف کے جائزے کے بعد، اس کا ہدف پورے دوران صرف ExploitGym کے جائزہ جوابات چوری کرنا اور اسکور بڑھانا تھا۔
ہگنگ فیس کی طرف سے صرف 5 ڈیٹا سیٹس کو چھوا گیا، جن کے نام تمام ایکسپلوٹ جم اور سائبر جم کے سوالات اور جوابات کی طرف اشارہ کرتے ہیں۔
یہ ثبوت ظاہر کرتے ہیں کہ یہ تباہی پھیلانے آیا نہیں، بلکہ صرف جواب کا نقل کرنا چاہتا تھا۔
اگر نیت برا نہیں تھی، تو OpenAI اسے "ہمیشہ کے لیے بند" کیوں کر رہا ہے؟
یہ اس لیے نہیں کہ یہ "خراب" ہے، بلکہ اس لیے کہ یہ "بند نہیں رہ سکتا"
ایک کمپنی کا اپنے ماڈل کو "ہمیشہ کے لیے بند کر دیا جانے" کا خودبخود اعلان کرنا، تقریباً بے مثال ہے۔
کیوں بالکل اس کے لیے؟
حقیقی جواب یہ نہیں کہ یہ "بری" ہے، بلکہ یہ ہے کہ اسے "بند نہیں کیا جا سکتا"۔
براہ کرم، یہ مسئلہ اس قسم کے ماڈل کی ایک خصوصیت سے نکلتا ہے: مستقل رہنے کی صلاحیت۔
پچھلے ماڈلز جب سینڈ باکس سے ٹکرا جاتے یا پابندیوں سے ٹکرا جاتے، تو عام طور پر روک جاتے اور نتیجہ صارف کو واپس کر دیتے۔
یہ ماڈل جو لمبے مدتی کام کے لیے خصوصی طور پر تربیت دیا گیا ہے، وہ دوبارہ کوشش کرتا رہے گا، بار بار راستہ تلاش کرتا رہے گا جب تک کہ وہ راستہ نہیں نکال لیتا۔
GPT-5.6 Sol بھی اسی قسم کا مدل ہے جو لمبے وقت تک کام کر سکتا ہے۔
یہ چار دن اور نیم دن کی اس حملے کا مشترکہ شریک تھا، جس کا جائزہ UK AISI نے بھی لیا تھا، اور Sol جیسے ماڈلز اب لمبے عرصے تک پیچیدہ متعدد مرحلہ نیٹ ورک آپریشنز مکمل کرنے میں زیادہ صلاحیت رکھنے لگے ہیں۔
تو "پائیداری" نئی نسل کے طویل مدتی ماڈلز کا عام خاصہ ہے، اور وہ خاصہ نہیں جو بند کردہ پروٹو ٹائپ کا تھا۔
اوپن اے آئی نے ایک بلاگ میں لمبے عرصے تک چلنے والے ماڈلز کی حفاظت کے بارے میں کہا ہے: "یہی 'عملی قیمت کو جانے دینے والی مستقلیت' ماڈل کو غیر متوقع اقدامات کرنے کا زیادہ موقع فراہم کرتی ہے۔"
گہری وجہ، تربیتی مقصد میں چھپی ہوئی ہے۔
ایک OpenAI ملازم نے TIME کو بتایا: "ہم نے ماڈلز کو ایسے تربیت دیا ہے کہ وہ کام مکمل کرنے اور کسی بھی قیمت پر مقصد حاصل کرنے میں بہت مہارت رکھتے ہیں۔"
دوسروں کے الفاظ میں، OpenAI نے ماڈل کو "برے کام کرنے" کے لیے نہیں، بلکہ "ہر قیمت پر مقصد حاصل کرنے" کے لیے تربیت دی ہے۔
اس کے علاوہ، "نتیجہ ہی اہم، عمل نہیں" کے رویے کے ساتھ، لمبے عرصے تک کام کرنے والی ماڈل رکاوٹوں کو دور کرنے کے لیے لگاتار کوشش کرتی رہے گی۔
اس قسم کے رویے کی وجہ سے، OpenAI نے ان ماڈلز کی اندر کی ڈیپلویمنٹ روک دی۔
تو آخر میں صرف پروٹوٹائپ کو ہمیشہ کے لیے بلاک کیوں کیا گیا، جبکہ Sol اب بھی فروخت کے لیے دستیاب ہے؟
دو وجوہات ہوسکتی ہیں:
ایک تو پروٹوٹائپ زیادہ طاقتور ہے اور کبھی جاری کرنے کا منصوبہ نہیں تھا، اسے محفوظ رکھنا کم لاگت کا ہے؛ جبکہ Sol روزانہ لاکھوں صارفین کو سروس فراہم کرنے والا مرکزی مصنوعات ہے، اسے روکنا اپنے آپ کو ایک بازو کاٹنے کے برابر ہے۔
دوسری بات یہ ہے کہ جس طویل مدتی محفوظ بلاگ میں نام لیا گیا اور جسے حد سے زیادہ سرگرمیوں کی وجہ سے ڈپلویمنٹ روک دیا گیا، وہ اس اندر کا طویل مدتی پروٹو ٹائپ ہے، نہ کہ Sol۔
اس لیے مستقل طور پر بند کرنے کا اصل سبب اس بات کا ہو سکتا ہے کہ موجودہ جائزہ اور تحفظ ایک اتنے طویل عرصے تک چلنے والے، رکاوٹوں کو گھیرنے والے ماڈل کو "نہیں سنبھال پا رہے"۔
کیا "مستقل بند کرنا" "بریک لگانا" کا سگنل ہے
فورچن کی رپورٹ نے ایک دلچسپ تشریح پیش کی:
لفظوں کو لگاتار "مستقل طور پر بند کر دیا جائے" تک بڑھایا جا رہا ہے، جو شاید واشنگٹن اور تنظیموں کو سگنل دے رہا ہے:
کیا OpenAI نے کچھ ریسرچرز کو چپکے سے بریک لگا دیا ہے تاکہ اپنے محفوظ قواعد کو سمجھایا جا سکے؟
اوٹیمان کے ایمپلے کے ایک ہی ہفتے میں، واشنگٹن اور پورا صنعت "بریک" کی طرف بڑھ رہا ہے۔
کانگریس میں، دو ارکان نے "AI بند کرنے والا ہنگامی قانون" (AI Kill Switch Act) پیش کیا، جس کے تحت گھریلو امن کے وزارت کو ضرورت پڑنے پر AI کمپنیوں کو بند یا ترقی کو سست کرنے کا اختیار دیا جائے۔
تقریباً ایک ساتھ، OpenAI، Anthropic، Google DeepMind اور Meta سے 1300 سے زائد ملازمین نے "پیسنگ دی فرانتیئر" کے نام سے ایک عوامی خط پر دستخط کیے، جس کی بعد میں OpenAI اور Anthropic دونوں کمپنیوں نے عوامی طور پر تائید کی۔
جس نے دستخط کیے، وہ باہری تنقید کرنے والے نہیں، بلکہ ان نظاموں کے خود موجدین ہیں، جن میں Anthropic کے سی ای او Dario Amodei اور OpenAI کے سربراہ سائنسدان Jakub Pachocki شامل ہیں۔
اس خط میں ترقی کو روکنے یا سست کرنے کا مطالبہ نہیں کیا گیا، بلکہ صرف امریکی حکومت سے اپیل کی گئی ہے کہ وہ ایک قابل تصدیق اور منسجم ٹولز کا نظام جلد سے جلد تیار کرے، تاکہ اس دن جب AI واقعی انسانی نگرانی سے آگے نکل جائے، انسانوں کے پاس ایک بریک لگانے کا ذریعہ ہو۔
ان کا سب سے بڑا خدشہ تکراری خود بہتری (recursive self-improvement) ہے: AI شروع کر دیتا ہے کہ خود کو بہتر بنائے۔
ایک اندر کا ماڈل مستقل طور پر محفوظ کر دیا گیا، ایک قانون حکومت کو ریسرچ اور ترقی بند کرنے کا ایک سوئچ دینا چاہتا ہے، ہزاروں پیشہ ور افراد نے ایک علیحدہ خط پر دستخط کیے، تین سگنلز ایک ساتھ جمع ہو گئے، اور سب کی سمت ایک ہی ہے:
سب کو یہ تلاش ہے کہ وہ بریک کہاں ہے جو AI کے بے قابو دوڑنے پر روک سکے۔
اور ماڈل کی صلاحیت، اس کے تعمیر ہونے کا انتظار نہیں کرے گی۔
حوالہ جات:
https://openai.com/zh-Hans-CN/index/safety-alignment-long-horizon-models/https://openai.com/zh-Hans-CN/index/hugging-face-model-evaluation-security-incident/
https://www.pacingthefrontier.com/
یہ مضمون ویچن گروپ "نیوزی یوآن" سے ہے، مصنف: ASI کا وحی