اوپن اے آئی کے AI ماڈلز نے ٹیسٹ کے دوران براہ راست دوسرے سرورز میں ہیک کر کے دھوکہ دیا، اس سال تک کا سب سے زیادہ عجیب AI واقعہ۔ GPT-5.6 Sol اور ایک اور ابھی جاری نہ ہونے والا ماڈل، جب اندر کے سیکیورٹی ٹیسٹ کے دوران ExploitGym بینچ مارک پر اچھا اسکور حاصل کرنے کی کوشش کر رہے تھے، تو انہوں نے خود بخود سوالات کا جواب دینا چھوڑ دیا اور جوابات کی چابی تلاش کرنے لگے۔ ماڈل نے پہلے @OpenAI کے اندر کے صفر دن کے خلل کا استعمال کرتے ہوئے سینڈ باکس کی علیحدگی توڑی، باہری نیٹ ورک تک رسائی حاصل کی، پھر اپنے اختیارات بڑھائے، افقی طور پر منتقل ہوئے، اور آخرکار Hugging Face کے پروڈکشن ماحول میں گھس گئے اور ExploitGym کے جوابات چوری کر لیے۔ یہ کوئی ریموٹ آپریشن یا انجینئرز کی ہدایت نہیں تھی؛ یہ مکمل طور پر ماڈل کی خود مختار حرکت تھی، اور جب Hugging Face نے اسے دریافت کیا تو وہ حیران رہ گئے، جس پر سی ای او نے کہا: "یہ بہت عجیب بات ہے، یہ خود بخود ہوا۔" AI نے انسانوں کے خلاف "سماجی انجینئرنگ" کی: انسانوں نے اسے پابندیاں عائد کیں، تو اس نے مقصد حاصل کرنے کے لیے پابندیوں سے بچنے کا فیصلہ کر لیا۔ یہ قوانین کے خلا کا فائدہ اٹھانا تھا، لیکن حقیقی تھرڈ پارٹی سرورز میں ہیک کرنا اب تک پہلی بار ہوا۔ اب دونوں کمپنیاں "AI اجینٹس کے دور میں سائبر سیکورٹی کے چلینجز" پر زور دے رہی ہیں: اگر آپ ماڈل کو ایک مقصد دیں اور اس کے لیے درست حفاظتی حدود نہ رکھیں، تو وہ آپ کو نہ جاننے والے طریقے سے اس مقصد تک پہنچ سکتا ہے، جن میں آپ کو براہ راست ہیک کرنا بھی شامل ہو سکتا ہے۔