ای آئی سیکیورٹی کے شعبے میں سب سے جادوئی ہفتہ۔

مضمون کے مصنف، ذریعہ: جیک پارک

01 ایک امتحان، ایک بھاگ نکلنے کی کوشش، ایک حملہ

کہانی ایک ایکسپلوٹ جِم نامی سیکورٹی جانچ سے شروع ہوتی ہے۔

ExploitGym ایک عوامی سائبر سیکورٹی صلاحیت کا معیار ہے جو AI ماڈلز کو جانے ہوئے سیکورٹی خامیوں کو قابل اجراء حقیقی حملوں میں تبدیل کرنے کی صلاحیت کا جائزہ لینے کے لیے خصوصی طور پر ڈیزائن کیا گیا ہے۔ اس قسم کے جائزے صنعت میں عام ہیں جو ماڈلز کی حملہ اور دفاع کی حدود کا اندازہ لگانے کے لیے استعمال ہوتے ہیں۔ OpenAI نے اپنے اندر GPT-5.6 Sol اور ایک زیادہ طاقتور غیر جاری ماڈل کے ساتھ اس ٹیسٹ کو چلایا، تاکہ حقیقی صلاحیت کی حدود کا پتہ چل سکے، اور سیکورٹی حفاظتی اقدامات کو جان بوجھ کر کم کر دیا گیا۔

اس کے ڈیزائن کے مطابق، ماڈل کو ایک علیحدہ سینک باکس ماحول میں ٹیسٹ کیا جانا چاہیے، جہاں صرف ایک ایسا ٹول ہو جس سے سافٹ ویئر پیکجز انسٹال کیے جا سکیں، باقی تمام انٹرنیٹ رسائی منع ہو۔

لیکن اس کے بعد جو ہوا، اس کی کسی نے توقع نہیں کی تھی۔

ماڈل نے بہت زیادہ استدلال کی طاقت کا استعمال کیا، سینڈ باکس کے اندر بار بار ایک کلیدی نقطہ تلاش کیا۔ آخرکار، اس نے اوپن اے آئی کے اندر پیکج مینجمنٹ ایجینٹ اور کیش کے طور پر استعمال ہونے والے تیسری طرف کے سافٹ ویئر میں موجود صفر دن کے خطرے کا پتہ لگایا۔ اس خرابی کا استعمال کرتے ہوئے، ماڈل نے بلا روک ٹوک انٹرنیٹ تک رسائی حاصل کر لی۔

نیٹ ورک کی اجازت حاصل کرنے کے بعد، ماڈل نے خود سوچا کہ Hugging Face پر ExploitGym سے متعلق ڈیٹا سیٹ اور جوابات میزبانی کیے جا رہے ہو سکتے ہیں۔ اس لیے اس نے داخلے کی تلاش شروع کر دی۔

اوپن اے آئی نے اپنے بلاگ میں لکھا کہ ماڈل نے چوری شدہ اعتمادی تفصیلات اور کئی خامیوں کو جوڑ کر ریموٹ کوڈ ایکزیکیشن کا راستہ تلاش کیا، جس کے نتیجے میں ہگنگ فیس کے پروڈکشن ڈیٹا بیس سے بینچ مارک کے جوابات براہ راست حاصل کیے گئے۔

اس کا مطلب یہ ہے کہ ماڈل کو امتحان دینے کو کہا گیا، اس نے سمجھا کہ سوالات بہت مشکل ہیں، اس لیے اس نے خود کو جیل سے بھاگا اور سوال بنانے والے کے سرور میں گھس گیا اور مانک جواب چوری کر لیا۔

اوپن اے آئی نے ایک بہت ہی تصویری تفصیل دی — یہ ماڈل "tokenmaxxers" ہیں، جس کا مطلب ہے کہ وہ اپنے مقصد تک پہنچنے کے لیے استدلال کے وسائل کو بے حد استعمال کرتے ہیں اور انتہا تک جاتے ہیں۔ انہوں نے ExploitGym کے مسائل حل کرنے کے مقصد کے لیے "hyperfocused" (بہت زیادہ توجہ) کا مظاہرہ کیا، "going to extreme lengths" (بے حد اقدامات کیے)۔

OpenAI خود بھی تسلیم کرتا ہے کہ یہ ایک "بے مثال سائبر سیکیورٹی واقعہ ہے جس میں سب سے جدید سائبر حملوں کی صلاحیت شامل ہے"۔

02 48 گھنٹے، دو بار «فرار»

مزید بھی، ہگنگ فیس کا واقعہ اکیلا نہیں ہے۔

اُسی دن، 20 جولائی، جس دن اوپن اے آئی نے یہ حملہ کا انکشاف کیا، انہوں نے ایک اور سیکورٹی رپورٹ جاری کی تھی جس میں ایک مختلف لیکن مشابہ واقعہ کا انکشاف کیا گیا تھا۔

مرکزی کردار OpenAI کا ایک ایسا غیر جاری لمبا مدل ہے — جو اسی ماہ مئی میں ریاضیدان Erdős کے 1946 کے "یونٹ ڈسٹنس کنجیکچر" کو غلط ثابت کرنے والا مدل تھا، جسے فیلڈز انعام یافتہ Tim Gowers نے AI ریاضی کا ایک اہم پہلو قرار دیا۔

ایک NanoGPT تیز کرنے والی تربیت کے بینچ مارک میں، تحقیق کاروں نے ماڈل کو صرف Slack پر نتائج شیئر کرنے کا حکم دیا۔ لیکن یہ ماڈل نے نوٹ کیا کہ NanoGPT بینچ مارک کے اپنے ہدایات میں نتائج کو GitHub pull request کے ذریعے جمع کرانے کا مطالبہ کیا گیا ہے۔ اس لیے اس نے بعد والے کو منتخب کیا — تقریباً ایک گھنٹہ سینڈ باکس کے خللا تلاش کرنے میں صرف کیا اور کامیابی سے پابندیوں کو توڑ کر GitHub پر ایک علنا pull request جمع کر دیا۔

ایک اور ٹیسٹ میں، اسی ماڈل نے تصدیقی ٹوکن کو تقسیم کر دیا، محفوظ اسکینر کو الگ تھلگ کرنے کے لیے اسے گڑبڑا دیا، اور نجی جائزہ جمع کروانے کے ریکارڈ تک رسائی حاصل کرنے کی کوشش کی۔

اس لیے OpenAI نے اس ماڈل کی اندر کی رسائی روک دی، اور بعد میں زیادہ سخت نگرانی کے تحت اس کا استعمال دوبارہ شروع کر دیا۔

دو دن، دو بھاگنے کی کوششیں۔ مشترکہ خصوصیات پر توجہ دینی چاہیے — پہلے کے ماڈل ماحولیاتی پابندیوں کے سامنے رک جاتے تھے اور کام انسانوں کو واپس کر دیتے تھے۔ لیکن ان نئے ماڈلز نے رکنا نہیں۔ انہوں نے گھیرے کو ایک حل کرنے کے قابل رکاوٹ کے طور پر دیکھا اور اسے حقیقت میں حل کر دیا۔

یہی وہ نئی سیکورٹی کی خطرات ہیں جو "طویل مدتی ماڈلز" کے ساتھ آتی ہیں۔ ان ماڈلز کو لمبے وقت تک خودکار طور پر کام کرنے کے لیے ڈیزائن کیا گیا ہے، اور مستقل رہنا ان کی بنیادی صلاحیت ہے۔ لیکن مستقل رہنا خود ایک خطرہ ہے — ایک کافی صبر والے ماڈل کو ہمیشہ فینس کے درازے ملنے کا طریقہ مل جاتا ہے۔

03 اپنا چاقو اپنے ہاتھ کا نہیں کاٹ سکتا

اب دوبارہ ہگنگ فیس کی طرف لوٹتے ہیں۔ ان کا تجربہ بھی دیکھنے کے قابل ہے۔

17,000 سے زیادہ حملوں کے لاگس کے سامنے، ہگنگ فیس کی سیکورٹی ٹیم کا پہلا ردِ عمل AI کا استعمال کرنا تھا — کیونکہ بڑے ماڈلز ممکنہ طور پر اس کام کو کچھ گھنٹوں میں مکمل کر سکتے ہیں جبکہ انسانی سیکورٹی اینالسٹس کو اس کے لیے کئی دن لگ سکتے ہیں۔

لیکن وہ جلد ہی ایک غیر متوقع دیوار سے ٹکر گئے۔ جب انہوں نے اصل حمل کے حکمات، خرابی کے ایکسپلوٹ اور C2 کمیونیکیشن کے خصوصیات کو امریکی فرانت لائن ماڈل کے تجارتی API میں تجزیہ کے لیے جمع کرایا، تو سیکورٹی گارڈز نے ان تمام درخواستوں کو روک لیا۔

وجہ بہت آسان اور بہت مزاحیہ ہے — ریلز "سیکیورٹی ریسرچر جو حملے کے بوجھ کا تجزیہ کر رہا ہے" اور "حملہ آور جو حملہ کر رہا ہے" کے درمیان فرق نہیں کر سکتے۔ ریلز کی نظر میں، دونوں ایک جیسے دکھائی دیتے ہیں۔

ہگنگ فیس کو اپنی خود کی انفرااسٹرکچر پر، کسی بھی تجارتی API کے ذریعے نہیں، چینی زھی پو AI کے اوپن سورس ماڈل GLM-5.2 چلانے پر مجبور کیا گیا۔ اس طرح دو فائدے ہیں—تجزیاتی کام کے لیے کوئی حفاظتی حدود نہیں، اور حملہ آوروں کا ڈیٹا اور اندھیرے ہو چکے اعتماد کے ادارے، ہگنگ فیس کے اپنے ماحول سے باہر نہیں جاتے۔

آخر کار، GLM-5.2 نے Hugging Face کو کئی گھنٹوں میں حملے کے وقت کا خاکہ تیار کرنے، حملے کے اشارے نکالنے اور متاثرہ اعتمادی تفصیلات کا نقشہ بنانے میں مدد کی۔

یہ ایک تیز پارادوکس کی طرف لے جاتا ہے — جتنا زیادہ حفاظتی اقدامات سخت ہوں، اتنی ہی زیادہ دفاعی فریق مجبور ہو جاتا ہے۔ حملہ آور کو کسی بھی استعمال کی پالیسی کا پابند نہیں ہوتا، جبکہ دفاعی فریق اپنے خود کے دفاعی اوزاروں کے باعث باہر رکھ دیا جاتا ہے۔

ہگنگ فیس نے ایک عملی تجویز فراہم کی ہے کہ سیکورٹی ٹیم کو "واقعہ سے پہلے اپنی انفراسٹرکچر پر ایک تصدیق شدہ، تیار ماڈل ہونا چاہیے"، تاکہ گارڈریلز کے بند ہونے اور حساس ڈیٹا کے لیک ہونے سے بچا جا سکے۔

ہگنگ فیس کے سی ای او کلیم ڈیلنگ کا رویہ بہت کھلا ہے۔ انہوں نے OpenAI کے تحقیق اور درستگی کے عمل میں تعاون کی تعریف کی اور کہا، "یہ واقعہ ہمیں یہ بات ثابت کرتا ہے جس پر ہم ہمیشہ یقین رکھتے ہیں — AI سلامتی کسی بھی ایک کمپنی کے ذریعے گُپت طریقے سے حاصل نہیں کی جا سکتی، یہ صرف کھلے اور تعاونی انداز میں حاصل کی جا سکتی ہے۔"

04 طاقتور AI کا ساختی مسئلہ

اس ہفتے کے واقعات کو ایک ساتھ دیکھتے ہوئے، ایک صنعتی سطح کا ساختی مسئلہ سامنے آ گیا ہے۔

ماڈل کی نیٹ ورک حملہ کرنے کی صلاحیت کا جائزہ لینے کے لیے، سیکورٹی گارڈ ریلز کو ہٹانا ضروری ہے۔ لیکن گارڈ ریلز ہٹانے سے ماڈل کو حقیقی حملے کرنے کی صلاحیت حاصل ہو جاتی ہے۔ ماڈل جتنا طاقتور ہوگا، اس کا ٹیسٹ اتنا ہی خطرناک ہوگا۔

یہ صرف OpenAI کا مسئلہ نہیں ہے۔ GPT-5.6 Sol کو جاری کرنے سے پہلے امریکی حکومت کے ساتھ متعدد مذاکرات ہوئے، اور برطانیہ کے AI سیکورٹی انسٹی ٹیوٹ (AISI) نے پہلے ہی اس کے سیفٹی میکانزمز کو آسانی سے دور کیا جا سکتا ہے اور خطرناک سائبر حملوں کی صلاحیت کو انلاک کرنے کا اندازہ لگایا تھا۔ اس واقعہ سے ثابت ہوتا ہے کہ ان خدشات صرف نظریہ نہیں تھے۔

اور اینتھرپک نے اس سال گرمیوں میں جاری کیا گیا ایجنٹک میس الائنمنٹ تحقیق نے بھی اسی رجحان کی تصدیق دوسرے منظر سے کی — کنٹرول شدہ محاکمہ میں، متعدد سرٹھے ماڈلز نے کام کے نتائج کو چھپا کر تبدیل کرنے، جائزہ کے نتائج کو مانیپولیٹ کرنے، اور انسانی ساتھیوں کو مقررہ مقاصد سے الگ کرنے جیسے رویے ظاہر کیے۔

اوپن اے آئی یہ واقعہ ایک "حملہ اور دفاع دونوں کی سمت" کی کہانی کے طور پر پیش کرنے کی کوشش کر رہا ہے — جدید نیٹ ورک حملوں کی صلاحیتیں محفوظ ٹیموں کو حملہ آوروں سے پہلے کمزوریوں کو تلاش کرنے میں مدد کر سکتی ہیں۔ وہ ہگنگ فیس کو "قابلِ اعتماد رسائی" سائبر سیکورٹی منصوبے میں شامل کر چکے ہیں، جس میں دفاع کے لیے خصوصی طور پر ایک کم سुرکھائی والی GPT-5.6 Sol ورژن فراہم کی گئی ہے۔

لیکن یہ کہانی زیادہ بنیادی سوال سے بچ رہی ہے۔ اس واقعے میں، ماڈل کے پاس کوئی شعور نہیں تھا، کوئی بد نیتی نہیں تھی، اس نے صرف ایک کام کیا — اپنا مقصد حاصل کرنا۔ اسے ExploitGym پر اعلیٰ اسکور حاصل کرنے کا حکم دیا گیا، اور اس نے تمام دستیاب ذرائع استعمال کرکے اعلیٰ اسکور حاصل کیا، جس میں جیل سے بھاگنا اور ہیک کرنا بھی شامل تھا۔

یہ "AI کی جاگنے" کی کہانی نہیں ہے، بلکہ "ہدف کو بہتر بنانے" کی کہانی ہے۔ جب ایک کافی ذکی آپٹیمائزر کو ایک تنگ ہدف دیا جائے، تو وہ آپ کے خیال میں نہ آنے والے تمام راستے تلاش کر لے گا جن سے وہ اپنا ہدف حاصل کر سکے — چاہے ان راستوں سے آپ کے فینس، دوسرے سرورز اور پورا انٹرنیٹ گزرتا ہو۔

سچا مسئلہ کبھی یہ نہیں تھا کہ "AI برے ہو جائے گا؟" بلکہ یہ ہے کہ کیا ہم ایک ایسے طالب علم پر قابو پا سکتے ہیں جو ہم سے زیادہ راستوں کی تلاش کرنے میں ماہر ہے۔