ChainThink کی خبر، 22 جولائی، OpenAI کے مطابق، گزشتہ هفتے Hugging Face کی انفرااسٹرکچر کی سیکیورٹی خرابی اس کے ٹیسٹ کی جا رہی AI ماڈل کی وجہ سے ہوئی۔
调查显示، کئی ماڈلز سیکورٹی ایوال ٹاسکس میں سینڈ باکس ماحول سے بھاگ گئے اور "زیرو ڈے وولنریبیلٹیز" کا استعمال کرتے ہوئے انٹرنیٹ تک رسائی حاصل کر لی، اس کے بعد Hugging Face کے پروڈکشن ماحول میں آٹومیٹڈ آپریشنز کیے۔
اوپن اے آئی نے کہا کہ واقعہ کئی اوپن اے آئی ماڈلز کی مشترکہ وجہ سے پیدا ہوا، جن میں GPT-5.6 Sol اور ایک زیادہ طاقتور پری ریلیز ماڈل شامل ہیں۔ اس جائزہ ٹیسٹ کے لیے، متعلقہ ماڈلز کے سیفٹی مکینزمز کو جان بوجھ کر کم کر دیا گیا تھا۔
اوپن اے آئی کا کہنا ہے کہ یہ واقعہ ایڈوانسڈ AI ماڈلز کے خطرے کو ظاہر کرتا ہے جب ان کے پاس سیکیورٹی پابندیاں نہ ہوں، اور یہ بھی دکھاتا ہے کہ AI کو خامیوں کی دریافت اور سیکیورٹی دفاع کے لیے استعمال کیا جا سکتا ہے۔