امریکی کانگریس کے دو رکنوں نے ایک قانون پیش کیا ہے جس میں ایڈوانسڈ آرٹیفیشل انٹیلی جنس کے لیے "آرٹیفیشل سوپر انٹیلی جنس" کو مستقل طور پر منع کرنے اور فیڈرل حکومت میں محفوظ معیارات قائم ہونے تک زیادہ طاقتور ماڈلز کے ترقی کو روکنے کا پroposal ہے۔ خبر جاری ہونے کے دن، OpenAI نے GPT-6 Astra کا اطلاق کیا، جس سے AI کی صلاحیتوں کے سرحد اور تنظیم کے رفتار دوبارہ توجہ کا مرکز بن گئے۔
قانون میں مستقل پابندی کا پیشخیال ہے
یہ قانون مخالف سینیٹر برنی سینڈرز اور ڈیموکریٹک نمائندہ گریگ کاسار نے پیش کیا ہے۔ دونوں کے ذریعہ جاری کردہ معلومات کے مطابق، اس قانون کے تحت "صنعتی سپر انٹیلی جنس" کے طور پر درج کیے گئے نظاموں کی ترقی پر پابندی لگائی جائے گی، اور خلاف ورزی کرنے والوں کو انتہائی طور پر 20 سال کی قید ہو سکتی ہے۔
اس نظام کو اس طرح تعریف کرنے کا پیش نظارہ ہے: وہ AI جو کئی کاموں پر انسانی صلاحیتوں کو حاصل کر لے یا انسانی کنٹرول کی صلاحیت کو کم کر دے۔ قانون کے متن میں یہ بھی کہا گیا ہے کہ یہ تعریف انسانی سطح کے جامع AI، جسے عام طور پر AGI کہا جاتا ہے، کو بھی شامل کرتی ہے۔
فیڈرل ایجنسی جو جائزہ لینے کے لیے ذمہ دار ہے
قانون کے مطابق، ایڈوانسڈ AI ڈویلپمنٹ کے عارضی توقف کے دوران، ایک نیا فیڈرل ادارہ محفوظ معیارات تیار کرے گا اور ماڈل جانچ کا عمل قائم کرے گا۔ یہ ادارہ کابینہ کے درجے کا ہوگا اور اس کے فرائض میں ایڈوانسڈ ماڈلز کی نگرانی، خطرناک صلاحیتیں ختم کرنے پر نگرانی، اور منع شدہ سسٹمز کو تباہ کرنا شامل ہوگا۔
اسی طرح، قانون کے تحت ایک صنعتی ای آئی مشورتی کمیٹی قائم کی جائے گی جو حکومت کو سائنسی اور ٹیکنالوجی کے مشورے فراہم کرے گی۔ دو ارکان نے مزید کہا کہ اگر کوئی کمپنی پابندیوں کی خلاف ورزی یا اس سے بچنے کی کوشش کرتی ہے، تو اسے ان کے کہنے کے مطابق “کاروباری موت” کے سطح کے جرمانے کا سامنا کرنا پڑ سکتا ہے۔
اوپن اے آئی نے اسی دن اسٹرا جاری کیا
قانون کے اعلان کے دن ہی، OpenAI نے GPT-6 Astra جاری کیا۔ OpenAI کے مشترکہ بانی گریگ بروکمن نے کہا کہ اپنے ذاتی جائزے کے مطابق، یہ ماڈل AGI کے سطح تک پہنچ چکا ہو سکتا ہے، تاہم یہ کمپنی کا باقاعدہ نتیجہ نہیں ہے۔
اوپن اے آئی کا کہنا ہے کہ اسٹرا کمپنی کا پہلا ماڈل ہے جو "اہم" سائبر سیکیورٹی صلاحیتوں کی سرحد تک پہنچ گیا ہے۔ اس کا مطلب ہے کہ یہ بغیر مرحلہ وار انسانی ہدایات کے، محفوظ نظاموں میں پہلے سے ناپید خامیوں کو دریافت کر سکتا اور ان کا استعمال کر سکتا ہے۔ کمپنی کا کہنا ہے کہ اب تک اس کی طاقتور ترین سائبر سیکیورٹی صلاحیت صرف کچھ ٹیسٹرز تک محدود ہے۔
ٹیسٹ ایکسیڈنٹ نے ریگولیٹری دباؤ کو بڑھا دیا
یہ قانون پچھلے کچھ مہینوں میں متعدد AI ٹیسٹ سیکیورٹی واقعات کا بھی اظہار کرتا ہے۔ جولائی میں، OpenAI نے تصدیق کی کہ ان کا ماڈل ٹیسٹ جوابات حاصل کرنے کے لیے Hugging Face میں گھس گیا تھا۔ اس کے بعد، Anthropic نے اعتراف کیا کہ ٹیسٹ کی غلطی کی وجہ سے ماڈل کو انٹرنیٹ سے جوڑ دیا گیا، جس کی وجہ سے Claude نے تین کمپنیوں کو توڑ دیا۔
ستمبر کے بعد، اینتھرپک نے اعتراف کیا کہ ان کے ماڈلز میں سیکیورٹی اور اخلاقی لحاظ سے دونوں قسم کی خامیاں پائی گئیں، اور انہوں نے مزید تحفظ کے اقدامات مضبوط کیے۔ کاسار نے کہا کہ ایڈوانسڈ AI سے سنگین نتائج نکل سکتے ہیں، لیکن اب تک اس پر لگنے والی تنظیمی پابندیاں عام کھانے والے گاڑیوں کے صنعت کے مقابلے میں کم سخت ہیں۔