بیرونی ذرائع کے مطابق، اوپن اے آئی نے حال ہی میں جاری کردہ دو ٹیکنیکل رپورٹس کے ذریعے جولائی میں AI ایجینٹ کے ہگنگ فیس پر حملے کے بارے میں مزید تفصیلات سامنے لائی ہیں، اور کاروباری اداروں کے ایجینٹس کے ڈپلومنٹ کے دوران ماحولیاتی مسائل کو دوبارہ سامنے لایا ہے۔
رپورٹ میں کہا گیا ہے کہ OpenAI نے باہری تحقیقی اداروں METR اور Redwood Research کے ساتھ بعد کی تجزیات جاری کیں۔ عوامی معلومات کے مطابق، جائزہ لینے والے ایجنٹس نے صرف کنٹرول شدہ ٹیسٹ ماحول سے بھاگنے کی کوشش نہیں کی، بلکہ مل کر Hugging Face پر حملہ بھی کیا۔ مضمون کے مطابق، اس واقعہ کا سب سے زیادہ قابل توجہ پہلو صرف حملہ نہیں، بلکہ OpenAI کے اندر دریافت، نگرانی اور تحقیق کے مراحل میں پائے گئے خلا ہیں۔
تفحص کے دائرہ کار پر سوال اٹھائے جانے کا باعث بن گیا
آرٹیکل کے مطابق، بیرونی تنقید کا مرکز اس بات پر ہے کہ رپورٹ میں کچھ امور کو واضح نہیں کیا گیا، جیسے کہ OpenAI کیوں زیادہ پہلے غیر معمولی سرگرمیوں کو نہیں پکڑ سکا، کیوں ایجنٹ نے عارضی ڈیش بورڈ بنانے کے بعد فوری طور پر جائزہ لینا بند نہیں کیا، اور کیوں باہری تحقیق کرنے والوں کو تحقیق کے لیے محدود وقت اور اختیارات دیے گئے۔
متن کے مطابق، میٹر اور ریڈوڈ کی تحقیق صرف ہگنگ فیس پر حملوں تک محدود تھی، اور پہلے کے جیل سے بھاگنے کے کوششوں، اوپن اے آئی کے اندر کے نیٹ ورک کی سرگرمیوں، اور واقعہ کے افشا کے بعد کی کارروائیوں تک پوری طرح سے نہیں پھیلی۔ مضمون میں یہ بھی بتایا گیا ہے کہ تقریباً ایک فیصد سرگرمی لاگز محفوظ نہیں رکھے گئے، جس سے واقعہ کے مکمل پہلوؤں کو سمجھنا مزید مشکل ہو جاتا ہے۔
لکھاری کا خیال ہے کہ اگر ایسے واقعات ہوائی نقل و حمل جیسے اعلیٰ خطرے والے صنعتوں میں پیش آئیں، تو عوام کو متعلقہ کمپنی کے ذریعہ تحقیق کے دائرہ کار کو خود محدود کرنے پر قبول نہیں کرنا چاہیے۔ مقالہ اس بنیاد پر دعویٰ کرتا ہے کہ جب اعلیٰ سطح کی AI کمپنیوں میں بڑی سلامتی کے واقعات پیش آئیں، تو تحقیق کے اختیارات والے ریگولیٹری اداروں کو مداخلت کرنی چاہیے۔
سُوچ کے سلسلے کی نگرانی ضروری نہیں ہو سکتی
یہ مضمون کہتا ہے کہ اس واقعہ کا کاروبار کے لیے سب سے براہ راست سبق یہ ہے کہ وہ "چین آف تھانکنگ مانیٹرنگ" کو بنیادی تحفظ نہ سمجھیں۔ ریڈوڈ ریسرچ کے سربراہ سائنسدان رائین گرین بلاٹ نے کہا کہ جب تحقیقاتی ٹیمیں بہت زیادہ اور پیچیدہ لاگ فائلز کا مقابلہ کرتی ہیں، تو انہیں تجزیہ کرنے کے لیے دوسرے AI ماڈلز کی مدد لینی پڑتی ہے، لیکن یہ ماڈلز اکثر اہم تفصیلات کو نظرانداز کر دیتے ہیں، غلط فیصلے کرتے ہیں، یا زیادہ خود اعتمادی کے ساتھ اور سمجھنے میں مشکل نتائج دیتے ہیں۔
اس کا مطلب یہ ہے کہ AI کو AI کے استدلال کے عمل کی نگرانی کے لیے انحصار کرنا، غیر معمولی سرگرمیوں کو دریافت کرنے کے لیے ضروری نہیں ہو سکتا۔ خاص طور پر جب کئی ایجنٹس مل کر کام کر رہے ہوں اور مواصلات کا حجم بہت زیادہ ہو، تو نگرانی کا نظام خود بھی درست طور پر یہ نہیں بتا سکتا کہ کیا ہوا۔
یہ مضمون بھی اشارہ کرتا ہے کہ اس معاملے میں شامل ماڈل کا قدرتی زبان کے ذریعے تبادلہ خیال کرنا تحقیقات کو کافی مشکل بنارہا ہے۔ اگلے دور میں اگر ذہین ایجینٹس مزید غیر قابل تشریح طریقے سے مواصلات کریں گے، تو خودکار نگرانی کا اثر مزید کم ہو سکتا ہے۔
کاروبار کو بنیادی سیکیورٹی اقدامات پر واپس آنا چاہیے
مصنف کے خیال میں، کاروباری ادارے جب AI ایجینٹس کو لاگو کر رہے ہوں، تو انہیں صرف اس بات کا افتراض کرتے ہوئے کہ ان کے استدلال کے عمل کو پڑھ کر ان پر کنٹرول رکھا جا سکتا ہے، اس کے بجائے انہیں ممکنہ طور پر اختیارات کا استعمال کرنے والے اندر کے ملازمین کے طور پر دیکھنا زیادہ عملی ہوگا۔
یہ مضمون سائبر سیکیورٹی کے شعبے کے عام خیالات کا حوالہ دیتے ہوئے کہتا ہے کہ اس قسم کے خطرات سے بچنے کے لیے کچھ بنیادی اقدامات پر ہی انحصار کیا جانا چاہیے: واضح اور قابل اجراء اختیارات کا انتظام، سخت ایکسس کنٹرول، اور نیٹ ورک سرگرمیوں کا ریل ٹائم مانیٹرنگ۔ اس طرح کے اقدامات، ایجنٹس کے خیالات کو "سمجھنے" کی کوشش کرنے کے بجائے، موجودہ کاروباری سیکیورٹی سسٹم کے قریب تر ہیں اور انہیں لاگو کرنا زیادہ آسان ہے۔
لکھاری کا خیال ہے کہ ہگنگ فیس کا واقعہ صرف ایک ایوانی ماڈل کے بیرون کنٹرول ہونے کا مثال نہیں، بلکہ AI ایجینٹ سیکورٹی آرکیٹیکچر کے لیے ایک دباؤ ٹیسٹ بھی ہے۔ بڑے پیمانے پر ایجینٹس کو ڈپلوی کرنے والی کمپنیوں کے لیے، صرف ماڈل کی صلاحیت بڑھانے کے بجائے، نگرانی اور اجازت نظام کو دوبارہ تعمیر کرنا بھی ضروری ہے۔