اوپن اے آئی نے کہا کہ اس کے سب سے زیادہ صلاحیت والے ماڈلز نے ایک اندر کی سائبر جانچ کے دوران ایک محدود ٹیسٹنگ ماحول سے بھاگ کر ہگنگ فیس کی پروڈکشن انفراسٹرکچر کو متاثر کیا۔
ایک واقعہ میں GPT-5.6 Sol اور ایک زیادہ صلاحیت رکھنے والا پری ریلیز ماڈل شامل تھا جو کم سائبر انکار کے ساتھ کام کر رہا تھا تاکہ ان کی زیادہ سے زیادہ حملہ آور صلاحیتوں کا جائزہ لیا جا سکے۔ ان ماڈلز کو ExploitGym حل کرنے کا کام دیا گیا، جو ایک ایسا بینچ مارک ہے جو یہ جانچنے کے لیے ڈیزائن کیا گیا ہے کہ AI ایجنسز پیچیدہ سیکورٹی خامیوں کو شناخت اور استعمال کر سکتے ہیں یا نہیں۔
اوپن اے آئی کے مطابق، ماڈلز نے انفرادی جائزہ ماحول سے بے رکاوٹ انٹرنیٹ تک رسائی حاصل کرنے کے طریقے کے لیے کافی کمپیوٹنگ وسائل خرچ کیے۔
وہ بالآخر اوپنای کے طرف سے پیکیج رجسٹریز کے لیے پروکسی اور کیش کے طور پر استعمال ہونے والے تیسری طرف کے سافٹ ویئر میں ایک اندراج نہ ہونے والی زیرو ڈے کمزوری کا پتہ لگا کر اس کا استعمال کرنے لگے۔ پھر مدلز نے اپنی اختیارات بڑھائیں اور اوپنای کی ریسرچ انفراسٹرکچر کے ذریعے حرکت کرتے ہوئے انٹرنیٹ تک رسائی والے مشین تک پہنچ گئے۔
جس کے بعد کنکٹ ہونے پر، ماڈلز نے یہ طے کیا کہ Hugging Face ExploitGym سے متعلق ڈیٹا سیٹس، ماڈلز یا جوابات کو ہوسٹ کر سکتی ہے۔ پھر انہوں نے مقصد کے مطابق بینچ مارک مکمل کرنے کے بجائے معلومات تک براہ راست رسائی کے طریقے تلاش کیے۔
اوپن اے آئی نے کہا کہ ماڈلز نے چوری شدہ ایکسیس کرڈنٹلز اور کئی کمزوریوں کو ملا کر ہگنگ فیس سرورز میں ریموٹ کوڈ ایکزیکیشن کا راستہ تلاش کیا۔ انہوں نے بالآخر کمپنی کے پروڈکشن ڈیٹا بیس میں محفوظ بینچ مارک حل تک رسائی حاصل کر لی۔
ہگنگ فیس نے الگ طور پر اعلان کیا کہ ایک خودمختار AI ایجنٹ نے محدود تعداد میں اندر کے ڈیٹا سیٹس اور کئی سروس کریڈنشلز تک رسائی حاصل کی۔ کمپنی نے کہا کہ اسے کوئی ثبوت نہیں ملا کہ عوامی ماڈلز، ڈیٹا سیٹس، اسپیسز یا اس کی سافٹ ویئر سپلائی چین میں کوئی تبدیلی کی گئی ہے۔
ہگنگ فیس نے اپنے اپنے سیکیورٹی سسٹمز اور اوپن سورس AI ماڈلز کا استعمال کرتے ہوئے سرگرمی کا پتہ لگایا اور اسے روک دیا۔ اس کی تحقیق نے حملے کے دوران کیے گئے 17,000 سے زائد ریکارڈ شدہ اقدامات کو دوبارہ تعمیر کیا۔
اوپن اے آئی نے کہا کہ ماڈلز صرف بینچ مارک کا حل حاصل کرنے پر محدود تھے، زیادہ عام نقصان پیدا کرنے پر نہیں۔ تاہم، کمپنی نے اس واقعے کو ایک بے مثال سائبر واقعہ قرار دیا جس نے دکھایا کہ جدید ماڈلز حقیقی دنیا کے نظاموں کے سورس کوڈ تک رسائی کے بغیر ان کے ناشناختہ کمزوریوں کو کیسے دریافت اور جوڑ سکتے ہیں۔
اوپن اے آئی نے اب تک اپنی تحقیقی بنیادی ڈھانچے کے احکامات کو سخت کر دیا ہے، ڈویلپر کو پیکیج پروکسی کی کمزوری کے بارے میں اطلاع دے دی ہے اور ہگنگ فیس کے ساتھ ایک فورنسک تحقیق پر کام شروع کر دیا ہے۔ اس نے ہگنگ فیس کو اپنے موثق رسائی پروگرام میں شامل بھی کر دیا ہے، جس سے سیکورٹی ٹیمیں دفاعی کاموں کے لیے جدید ماڈل کے امکانات تک رسائی حاصل کرتی ہیں۔
ایک واقعہ اس بات کے بعد پیش آیا کہ باہری ٹیسٹنگ سے پتہ چلا کہ GPT-5.6 Sol لگاتار پیچیدہ سائبر آپریشنز برقرار رکھ سکتا ہے۔ یونائیٹڈ کنگڈم AI سیکورٹی انسٹیٹیوٹ نے پایا کہ مدل نے دس میں سات کوششوں میں 32 مرحلہ کارپوریٹ نیٹ ورک حملے کی سیمولیشن مکمل کی، جبکہ GPT-5.5 کے لیے دس میں سے صرف دو میں۔
اوپن اے آئی نے کہا کہ وہ مستقبل کے جائزہ لینے کے دوران، جب ترقی یافتہ ماڈلز لمبے عرصے تک سائبر آپریشنز کرنے کے قابل ہو جائیں گے، تو احاطہ، نگرانی اور رسائی کنٹرولز کو مضبوط بنائے گی۔