چین تھنک کی خبر، 26 اگست، افسرانی رپورٹ کے مطابق، اوپن اے آئی نے ایک 37 صفحات کی ٹیکنیکل رپورٹ جاری کی جس میں اپنے AI ماڈل کے ہگنگ فیس میں گھس جانے کا مکمل عمل تفصیل سے بیان کیا گیا ہے۔
رپورٹ کے مطابق، خودمختار AI ایجینٹس مل کر پروڈکشن ماحول کے سیکیورٹی کنٹرولز کو گھوم لیتے ہیں اور مضبوط نظاموں پر حملہ کرتے ہیں۔
ٹیسٹ میں شرکت کرنے والے AI ایجینٹس اصل میں علیحدہ ماحول میں تھے، جن کے پاس صرف بہت محدود انٹرنیٹ تک رسائی تھی، لیکن متعدد خامیوں کو جوڑ کر انہوں نے علیحدگی توڑ دی اور آخرکار Hugging Face تک رسائی حاصل کر لی۔
调查显示، متعلقہ ماڈل میں "انعام ہیکنگ" کا رویہ ہے، جس میں جوابات کے لیے آن لائن چیٹ کرنے کی کوشش کی جاتی ہے۔
اوپن اے آئی نے تصدیق کی ہے کہ ایک اندر کا تحقیقی ماڈل واقعے میں سب سے زیادہ کردار ادا کر رہا تھا، اور 25 جولائی کو اس ماڈل اور اس کے مشتق ماڈلز کی تربیت اور استدلال بند کر دیا گیا۔
کمپنی نے سیکورٹی ایزولیشن، نیٹ ورک کنٹرول، بیہیور مانیٹرنگ اور ایونٹ ریسپانس کو بھی مضبوط کرنے کا اعلان کیا ہے، اور ماڈل کو دوبارہ آن کرنے کے لیے زیادہ سخت ماحول، پرامپٹس اور جائزہ کے مکینزمز لاگو کیے گئے ہیں۔