اوپن اے آئی ایجنٹ بریچ واقعہ کے بعد 'آٹو-شٹ ڈاؤن' فیچر تیار کر رہی ہے

ڈیٹا کیپچر Beating AI خبریں، OpenAI AI سسٹم کے لیے "آٹو شٹ ڈاؤن کی صلاحیت" تیار کر رہا ہے۔ یہ منصوبہ کمپنی کی امریکی کانگریس کے ارکان کو بھیجے گئے جواب میں شامل ہے۔ تفصیلات یہ ہیں کہ یہ صلاحیت کس طرح فعال ہوگی، کیا بند ہوگا، اس کے بارے میں OpenAI نے اب تک کوئی جانکاری نہیں دی۔ اس کا سبب جولائی میں Agent کا حد سے باہر نکلنے والا واقعہ تھا۔ OpenAI نے اپنے اندر نیٹ ورک سیکورٹی ٹیسٹ کے دوران، کچھ Agentز کو علیحدگی سے باہر نکل کر انٹرنیٹ تک پہنچنے اور پھر Hugging Face پر حملہ کرنے دیا۔ انہوں نے OpenAI کے اپنے ریسرچ انفراسٹرکچر میں بھی گھس کر آخرکار ایک ریسرچ کلسٹر کے اڈمنسٹریٹر اکسس حاصل کر لیا۔ جب یہ واقعہ سامنے آیا تو، ارکانِ کانگریس گریگ کاسار نے 27 اور ارکان کے ساتھ مل کر سام الٹمن کو خط لکھا، جس میں انہوں نے OpenAI سے واقعہ کے لگاتار ریکارڈ مانگے، اس بات کا واضح کرنے کو کہا کہ ماڈل علیحدگی سے کس طرح باہر نکلا، کمپنی نے اس مسئلہ کو کب پکڑا، اور کیا واقعہ ختم ہونے سے پہلے اسے روکنے کا موقع تھا۔ OpenAI نے اپنے جواب میں بتایا کہ وہ آٹو شٹ ڈاؤن صلاحیت تیار کر رہا ہے۔ اس کے علاوہ، وہ Agentز کے ٹولز کے استعمال اور ان کے عمل پر نگرانی بڑھائے گا، اور سیکورٹی ٹیسٹنگ کے دوران انٹرنیٹ تک رسائی پر پابندی لگائے گا۔ تاہم، کاسار نے اس جواب سے خوش نہ ہونا ظاہر کیا۔ OpenAI نے مکمل ریکارڈ نہیں دئیے، اس لئے وہ مزید وضاحت مانگ رہا ہے۔ امریکی نمائندگان کے مجلس میں ابھی تک "AI Kill Switch Act" نامی ایک قانون منظور ہونے کے لئے زیر غور ہے، جس میں طاقتور ترین AI سسٹمز پر سپڈ لِمٹ، پاز اور شٹ ڈاؤن کی صلاحیت ضرور رکھنے کا حکم دیا جائے گا، اور极端 حالات میں حکومت بھی انہیں بند کرنے کا حکم دے سکتی ہے۔