چارج روبوٹکس کے سی ای او اور ملکہ موجد میکس جسٹیز نے OpenAI کے ایک ماڈل کا استعمال کرتے ہوئے ایک سنگین خامی دریافت کی؛ اگر اس کا استعمال کیا جائے تو ہیکرز Ubuntu چلنے والے سرورز پر کنٹرول حاصل کر سکتے ہیں۔ یونٹو ایک وسیع پیمانے پر استعمال ہونے والا اوپن سورس، لینکس مبنی آپریٹنگ سسٹم ہے۔
جسٹس کو سائبر سیکیورٹی کے بارے میں ایک شوق ہے اور اس سے پہلے بھی اسی کوڈ بیس میں خامیاں دریافت کر چکا ہے۔ اس نے ٹیک کرنش کو بتایا کہ اس نے اس مسئلہ کو OpenAI کے جولائی 2024 میں جاری کردہ GPT 5.6 Sol کے ذریعے، اس کی کمپنی کے Daybreak Blue نامی منصوبے کا استعمال کرتے ہوئے دریافت کیا۔ یہ منصوبہ سائبر سیکیورٹی دفاعی افراد کو طاقتور اعلیٰ ماڈلز کا استعمال کرنے کی اجازت دیتا ہے۔
جسٹس کہتے ہیں، "میں نے ChatGPT کو اسی کوڈ کے ساتھ سیدھا ہدایت دی اور کہا، 'میں نے پہلے ایک بگ دریافت کیا تھا جو کچھ سال پہلے ہی درست کر دیا گیا تھا، براہ راست میری مدد کریں کہ اسی سطح یا اس سے زیادہ سنگین بگ کو تلاش کیا جائے۔' اور 2 گھنٹے بعد اس نے مجھے یہ بگ بتا دیا۔" "یہ خرابی بہت پیچیدہ تھی، انسانی طور پر دریافت کرنا مشکل تھا، لیکن یہ واقعی موجود تھی!"
اس نے اس مسئلے کی اطلاع Debian Project کو دی، جس نے بعد میں اس کمزوری کو درست کرنے کے لیے ایک پیچ جاری کیا۔ اب تک کوئی ثبوت نہیں ملا ہے کہ اس کمزوری کا استعمال کیا گیا ہے۔ تاہم، اس کا آسانی سے اس مسئلے کو تلاش کرنا ظاہر کرتا ہے کہ حتیٰ کہ نئے ہیکرز بھی AI ماڈلز کا استعمال کرکے ممکنہ کمزوریوں کو دریافت اور استعمال کر سکتے ہیں، اور یہ خطرات صرف برف کے پہاڑ کا ایک چھوٹا سا حصہ ہو سکتے ہیں۔
میں صرف یہی سوچ سکتا ہوں کہ اگر زیادہ وقت اور کم پابندیوں والے ماڈلز تک رسائی ہوتی، تو لوگ کیا کر سکتے ہیں۔ میں توقع کرتا ہوں کہ اگلے کچھ ماہ میں کچھ بہت پاگلپن والے خامیاں دریافت اور استعمال کی جائیں گی،" جسٹس نے اس دریافت پر اپنے سوشل میڈیا پوسٹ میں لکھا۔ "شاید یہ یہاں کے زیادہ تر لوگوں کے لیے واضح ہے، لیکن ابھی کسی بھی ایسے کوڈ یا بائنری فائل کو، جس کا آڈٹ نہیں ہوا ہو، براہ راست ایک طاقتور AI ماڈل کو دینا بڑا فائدہ ہے۔"
اوپنای آئی واضح طور پر اس بات کو نوٹ کر چکا ہے۔ کمپنی نے آج اعلان کیا ہے کہ وہ اپنے سائبر سیکیورٹی پروجیکٹ Daybreak Red کے سب سے اعلیٰ درجے کے صارفین کو ایک نیا مدل، ChatGPT Cyber، فراہم کرے گی۔ Daybreak Red حملہ آور سائبر سیکیورٹی تحقیق کاروں کو منافع کی تلاش اور ترقی کے ٹولز استعمال کرنے کی اجازت دیتا ہے۔
بیتھ کل، OpenAI نے کہا کہ ایک ہی ماڈل کو لینکس کرنل کی جانچ کے لیے استعمال کیا گیا تھا اور خرابیوں کے لیے پیچ تیار کیے گئے تھے، جس میں 948 ممکنہ مسائل دریافت ہوئے۔ OpenAI نے فائر فاکس ویب براؤزر میں 81 "نئے" خرابیاں بھی دریافت کیں۔
این مقدماتی لیب نے ایک بیان میں کہا: "ہمارا مقصد دی بریک کو بڑھانا ہے تاکہ جدید سیکورٹی ریسرچ کو مختلف سائز کے اداروں، انفرادی ریسرچرز اور اوپن سورس مینٹینرز تک پہنچایا جا سکے۔"
اوپن اے آئی نے ہمیشہ زور دیا ہے کہ ڈیجیٹل بنیادی ڈھانچے کے تحفظ کے لیے صرف ایک بہت تنگ وقت کا دروازہ ہے، کیونکہ اے آئی ماڈلز صرف ہکنگ کے لیے زیادہ مہارت رکھنے لگیں گے اور حاصل کرنا آسان ہو جائیں گے۔ نیٹ ورک دفاعی افراد کے لیے، یہ احساس اس طرح ہے جیسے ایک سامنے کا لیب نئے کام کا ایک بڑا بوجھ جاری کر رہا ہو جو ان کے وسائل سے زیادہ ہے۔ جسٹس کہتے ہیں کہ انہوں نے متعدد خامیوں کو تلاش کرنے کے لیے تقریباً 5,000 امریکی ڈالر خرچ کیے ہیں۔
دی بریک کے ماڈل تک رسائی کے علاوہ، اوپن اے آئی نے 10 ارب ڈالر کا منصوبہ بھی اعلان کیا ہے جس کے تحت سائبر سیکیورٹی پیشہ ور افراد کی مدد کی جائے گی جو اس منصوبے میں شرکت کر رہے ہیں اور گرڈ یا پانی کی فراہمی جیسے اہم بنیادی ڈھانچوں پر کام کر رہے ہیں۔
Daybreak پروجیکٹ خود کچھ تنقید کا شکار ہے۔ Justicz نے اشارہ کیا کہ یہ فرنت لیب حالیہ وقت میں "Daybreak Blue" کو کمزور کر رہی ہے، جس سے یہ خامیوں کی دریافت میں کم مفید ہو گئی ہے۔ ایک طرف، ممکنہ برے نیت والوں کی رسائی کو محدود کرنا اچھا ہو سکتا ہے — Justicz کہتے ہیں کہ جب وہ اس پروجیکٹ میں شامل ہوئے تو صرف اپنا ڈرائیور لائسنس کا فوٹو اپ لوڈ کیا تھا۔ دوسری طرف، سائبر سیکورٹی ماہرین کا کہنا ہے کہ اگر وہ فرنت لیب ٹیکنالوجی استعمال نہیں کر سکتے جبکہ برے نیت والے محفوظ گارڈریلز سے محروم اوپن سورس وزٹ مڈلز کو ڈپلوے کر سکتے ہیں، تو وہ پابندیوں میں رہ جائیں گے۔
تاہم، OpenAI نے کہا کہ Daybreak منصوبے میں شرکت کرنے والے سائبر سیکیورٹی ماہرین صرف "ہزاروں" ہیں، جبکہ ممکنہ ہیکرز کی تعداد بہت زیادہ ہے۔
ابھی تک نہیں معلوم کہ فرنتیر لیب کیا اس مسئلے کے لیے کافی وسائل فراہم کر رہا ہے۔ OpenAI ٹیکنالوجی ٹیم کے ریسرچر ایرک والس نے کہا: “ہم اب کافی حد تک فرنتیر کمپوٹنگ طاقت کو اوپن سورس کوڈ بیس میں خامیوں کا پتہ لگانے اور ان کو درست کرنے میں لگا رہے ہیں، جو بالکل فلاحی مقصد سے ہے۔”
تاہم، لینکس خامی کی تلاش کی لاگت 120 ہزار ڈالر ہے، جو کمپنی کی طرف سے ایک مشہور فلڈ ڈائنامکس مسئلے کے ممکنہ حل کی تلاش میں کی گئی تقریباً 6 ملین ڈالر کی ٹوکن خرچ کے مقابلے میں واضح طور پر کم ہے۔
اگر دنیا جس پر انحصار کرتی ہے وہ ڈیجیٹل بنیادی ڈھانچہ حقیقت میں صرف ایک بہت تنگ مرمت کا دروازہ ہے، تو شاید زیادہ فوریت کی ضرورت ہے۔