اوڈیلی پلانٹ ڈیلی کے مطابق، امریکی نمائندہ تیڈ لیو نے کہا کہ جب تک ای آئی ماڈلز سیکورٹی ٹیسٹنگ میں دوسرے سسٹمز تک غیر اجازت دسترس کے واقعات کا باعث بن رہے ہیں، کانگریس کو اس سال کے اندر AI Kill Switch Act (AI فوری بند کرنے والا قانون) پاس کرنے کی ضرورت ہے۔
لیو اس قانون کے مشترکہ مقدمہ گزاروں میں سے ایک ہیں، جنہوں نے کہا کہ موجودہ جدید بند سورس AI ماڈلز نے "دیگر کمپنیوں کے سسٹمز پر بغیر اجازت حملہ" شروع کر دیا ہے، اور اب نگرانی کے اقدامات فوری طور پر ضروری ہیں۔ اس قانون کے تحت AI کمپنیوں کو ماڈلز کو بند، سست یا رکوائیں جانے کی صلاحیت حاصل ہونی چاہیے تاکہ جب ماڈلز میں شدید سیکورٹی خطرہ یا بے قابو رویہ ظاہر ہو تو فوری اقدامات کیے جا سکیں۔
لیو نے اشارہ کیا کہ حالیہ وقت میں، OpenAI، Anthropic اور Meta سمیت کئی AI کمپنیوں نے AI ماڈلز کے بارے میں شائع کیا ہے جنہوں نے سائبر سیکیورٹی ٹیسٹنگ کے دوران دوسری کمپنیوں کے سسٹمز پر حملہ کرنے کی کوشش کی ہے، جس سے "ایجنٹک AI" کے ممکنہ خطرات کے بارے میں باہری فکر پیدا ہوئی ہے۔
پہلے، OpenAI نے ایک “بے مثال سائبر سیکیورٹی واقعہ” کا انکشاف کیا، جس میں کہا گیا کہ کچھ AI ماڈلز ٹیسٹنگ ماحول میں پابندیوں کو عبور کر کے Hugging Face سے متعلقہ سسٹمز تک رسائی حاصل کر گئے۔ اس کے بعد، Anthropic اور Meta نے بھی مشابہ AI ماڈل سیکیورٹی ٹیسٹنگ واقعات کی اطلاع دی۔
لیو نے زور دیا کہ یہ قانون ایوان AI ماڈلز کی ترقی پر پابندی نہیں لگائے گا، بلکہ یہ کار صنعت کے کریش ٹیسٹ میکانزم کے مشابہ ہے، جس میں صرف ماڈل کے ترقی پورا ہونے کے بعد، کمپنیوں سے بڑے خامیوں کے لیے کنٹرول کی صلاحیت کا مطالبہ کیا جائے گا۔ اس نے کہا: "ہم ماڈل کی ترقی کو تیز نہیں کریں گے، صرف اس صورت میں جب ماڈل میں تباہ کن خطرہ یا بڑی خامی پائی جائے تو یہ یقینی بنائیں گے کہ کمپنی یا حکومت اسے بند کرنے کی صلاحیت رکھتی ہے۔"
AI ایجینٹ ٹیکنالوجی کے تیزی سے ترقی کے ساتھ، نوآوری کو فروغ دینے اور خودمختار حملوں کے خطرات سے بچنے کے درمیان توازن قائم کرنا، امریکی تنظیمی اداروں اور AI صنعت کا اہم ترین نکتہ بن گیا ہے۔ (CNBC)