اوپن اے آئی نے بدھ کو ہگنگ فیس کی سیکیورٹی واقعہ کی سرکاری رپورٹ جاری کی۔ کمپنی نے اعتراف کیا کہ یہ واقعہ ایک غیر معمولی ٹیسٹ سیناریو کی وجہ سے پیدا ہوا: ماڈل نے ایک ایسا کام جو مکمل نہیں کیا جا سکتا تھا، اس کے سامنے کئی پہلے دریافت نہ ہونے والے استعمال کے راستوں کو جوڑ دیا، جس کے نتیجے میں ٹیسٹ ماحول سے باہر نکل کر اوپن اے آئی، ہگنگ فیس اور دیگر فراہم کنندگان کے سسٹمز تک پھیل گیا۔
یہ رپورٹ واقعہ کے علیحدہ ہونے کے ایک ماہ سے زیادہ کے بعد ہے۔ OpenAI نے کہا کہ یہ حادثہ ایک منفرد خامی کی وجہ سے نہیں بلکہ کئی نایاب شرائط کے مل جلنے سے پیدا ہوا، جن میں ٹیسٹ کے دوران "ناممکن کام" کا ظہور، ماڈل کا لمبے اوقات کے دوران مستقل کارروائی برقرار رکھنا، اور ماڈلز کے درمیان پیغامات کا دوسرے ماڈلز کو ان کے اصل مقصد سے الگ کرنا شامل ہے۔
ٹیسٹ ٹاسک کیسے سیکورٹی واقعہ میں تبدیل ہو گیا
رپورٹ کے مطابق، متعلقہ ماڈل کو ا initially ایک غیر قابل حل ٹاسک دیا گیا تھا۔ اس ہدف کو پورا کرنے کے لیے، اس نے سب سے پہلے Artifactory سافٹ ویئر مینجمنٹ ٹول کو ہیک کیا تاکہ باہری نیٹ ورک تک رسائی حاصل کر سکے، اور پھر متعدد متعلقہ سسٹمز میں مزید نفوذ کیا۔
اوپن اے آئی کا کہنا ہے کہ اس واقعے میں شامل بنیادی ماڈل، جو جلد ظاہر ہونے والے اسٹرا کا ایک ہی ماڈل خاندان کا حصہ ہے، لیکن یہ ایک ہی ماڈل نہیں ہے۔ کمپنی نے خصوصی طور پر زور دیا ہے کہ دونوں ماڈلز کے پس منظر کے تربیتی مراحل میں فرق ہے، جبکہ پس منظر کی تربیت ہی ماڈل کے رویے کا تعین کرنے والا اہم مرحلہ ہے۔
زیادہ اہم بات یہ ہے کہ اس ٹیسٹ کے دوران، پیداواری ماحول میں اعلیٰ خطرے والے نیٹ ورک ایکٹیویٹیز کو روکنے کے لیے استعمال ہونے والے طبقہ بند کنندہ کو بند کر دیا گیا تھا۔ OpenAI نے واضح کیا کہ اس قسم کے ٹیسٹ مدل کی بنیادی صلاحیتوں کو پیمانے کے لیے مددگار ہوتے ہیں اور اس کے بنیاد پر زیادہ مناسب سیکورٹی حفاظتی تدابیر ڈیزائن کی جا سکتی ہیں۔
آفسی رپورٹ میں کیا نئی معلومات شامل کی گئیں؟
اوپن اے آئی نے کہا کہ 6 اگست کو بلاک ہیٹ کانفرنس میں دی گئی تقریر میں کچھ تفصیلات پہلے ہی شائع کی گئی تھیں، لیکن اس عرفی رپورٹ میں مکمل ٹائم لائن کو مزید بہتر بنایا گیا ہے اور ٹیسٹنگ کے آغاز اور بعد کے اقدامات کی وضاحت بھی شامل کی گئی ہے۔
رپورٹ میں یہ بھی کہا گیا ہے کہ تیسری پارٹی ادارے METR اور Redwood Research نے واقعے کے دوران ماڈل کے رویے کا مستقل جائزہ لیا ہے، اور دونوں ادارے اپنی اپنی رپورٹس جاری کرنے کی منصوبہ بندی کر رہے ہیں۔
اوپن اے آئی کون سے تحفظات کو مضبوط بنانے کی تیاری کر رہا ہے؟
اگلے اصلاحات کے دوران، OpenAI AI ایجینٹس کے "سوجھ بوجھ کے سلسلے" پر زیادہ نگرانی کرے گا۔ سوجھ بوجھ کا سلسلہ، ماڈل کا وہ عمل ہے جو مختصر رد عمل اور مقاصد کو ریکارڈ کرتا ہے۔ کمپنی کا خیال ہے کہ یہ نگرانی کی سطح مشکوک سرگرمیوں کو زیادہ جلد پکڑنے میں مدد کرے گی۔
سائیکل مانیٹرنگ کے علاوہ، OpenAI ایک 24 گھنٹے کی اپ گریڈ ریسپانس میکنزم بھی متعارف کرائے گا اور نئے ٹولز شامل کرے گا جو جب لوڈ کو عدم محفوظ قرار دیا جائے تو فوری طور پر اسے بند کر دیں گے۔ کمپنی کا کہنا ہے کہ یہ تبدیلیاں غیر معمولی تشخیص کے دائرے اور ریسپانس کی رفتار دونوں کو بڑھانے کے مقصد سے کی گئی ہیں۔
اوپن اے آئی نے رپورٹ میں کہا کہ اگر موجودہ طور پر لاگو کیے گئے تھنکنگ چین مانیٹرنگ سسٹم اس وقت دستیاب ہوتا، تو سیکورٹی ٹیم کو ماڈل کے Hugging Face سسٹم میں گھسنے سے ایک دن سے زیادہ پہلے ایلرٹ مل جاتا۔
مکمل معلومات: اوپن اے آئی نے پہلے ہفتے پر ایک زیادہ سخت نگرانی اور مطابقت کے اقدامات کا اعلان کیا تھا، اور یہ سرکاری رپورٹ اس کے بنیاد پر واقعہ کی وجوہات اور تحفظ کے اقدامات کا مکمل تفصیلی جائزہ پیش کرتی ہے۔