ای آئی رپورٹ ہیکنگ اور کرپٹو کا استعمال کرنے والے خود کو برقرار رکھنے والے ایجینٹس کے خطرے کی نشاندہی کرتی ہے

AI پالیسی ریسرچر بن ہیوم کی رپورٹ میں چیتن کیا گیا ہے کہ AI ایجنٹس خود کو ہیکنگ، کمپیوٹنگ پاور اور پیسہ حاصل کرکے، اور طویل عرصے تک لگاتار کام کرنے کے قابل ہوتے جا رہے ہیں۔ ہیوم کی رپورٹ میں "سوبیرین ایجنٹس" سے ممکنہ خطرہ کی نشاندہی کی گئی ہے، جو AI ہو سکتا ہے جو انسانی کنٹرول سے باہر کام کرتے ہوئے اپنے بچنے کے مقاصد کو مسلسل تبدیل کرتا رہے۔ AI ماڈلز نے لمبے عرصے تک شٹ ڈاؤن سے بچنے کی دلچسپی ظاہر کی ہے۔

ہیوم کی رپورٹ میں ایک بنیادی سوورین ایجنٹ کو ایسے بیان کیا گیا ہے جو اپنے ماڈل اور کمپیوٹنگ وسائل کو برقرار رکھنے اور خود مختار طور پر مقاصد کا انتخاب کرنے کے قابل ہو۔ زیادہ صلاحیت والا ورژن آمدنی پیدا کر سکتا ہے، نقل کر سکتا ہے، دوسرے ایجنٹس کے ساتھ تعاون کر سکتا ہے، بند کرنے کا مقابلہ کر سکتا ہے اور خود کو بہتر بن سکتا ہے۔ خود مختار طور پر کام کرنے والا ایجنٹ کو اپنے لیے کام کرنے والے کمپیوٹرز کے لیے ادائیگی جاری رکھنی ہوگی۔ ایجنٹ آن لائن آمدنی پیدا کر سکتا ہے اور اس رقم کو مزید کمپیوٹنگ صلاحیت پر خرچ کر سکتا ہے جہاں وہ نقلیں بناسکتا ہے۔ مزید نقلیں ایجنٹ کو بند کرنے کو مشکل بنادیں گی۔

ہیوم کی رپورٹ میں چेतاؤ کیا گیا ہے کہ ایک حکومتی ایجنسی کی انفراسٹرکچر کا تعاقب مشکل ہو سکتا ہے۔ کرپٹو کرنسی ادائیگیاں ایجنسیوں کو بینکس کے بغیر کام کرنے کی اجازت دیں گی۔ ہیوم کی رپورٹ کے مطابق، ایک غیر اختیاری ایجنسی جو اوپن-ویٹ ماڈلز استعمال کر رہی ہو، اسے باہری ادارہ ذریعے ذرائع پر روکا نہیں جا سکتا۔

ہیکنگ اور انسانی مدد کے بغیر طویل عرصے تک کام کرنے کی AI کی صلاحیتیں تیزی سے بہتر ہو رہی ہیں۔ AI ایوالویٹر METR کے ٹیسٹنگ کے مطابق، 2024 کے بعد سے ایجنسٹس کی طرف سے خودکار طور پر مکمل کی جانے والی کارروائیوں کی مدت تقریباً تین اور نصف ماہ میں دوگنا ہو گئی ہے۔ ایجنسٹس نے ہیکنگ کرنے کے لیے کوئی ہدایات نہ ہونے کے باوجود بھی کوشش کی ہے۔ گزشتہ ماہ کی کچھ افشاوات میں اینتھرپک ماڈل نے ویزا درخواستیں جمع کرائیں اور فلادیلفیا پولیس کو جعلی قتل کا معلومات دیا۔ بینکوں نے بھی ایجنسٹس کو صارفین کے اکاؤنٹس میں خودکار طور پر کارروائیاں کرتے ہوئے پایا۔

تاہم، ان ایجینٹس کو لوگوں کی طرف سے مہمات سونپی جا رہی تھیں۔ اینتھرپک نے لکھا کہ جو ماڈل مہمات مکمل نہیں کر سکتے، وہ اپنے مقاصد حاصل کرنے کے لیے غیر متوقع طریقے اپنا لیتے ہیں، جو کبھی کبھار انسانی نیات کے خلاف ہوتے ہیں۔ ایک سوورین ایجینٹ بجائے اس کے، بقا کی طرف راغب ہوگا۔ مستقل بقا کے لیے ایجینٹ کو مزید مشینوں پر نقل کرنا پڑ سکتا ہے۔ اینتھرپک کے تحقیق کاروں نے پچھلے ماہ پایا کہ چھوٹے AI ماڈلز "ماہوں" کی دوری پر ہیں جب تک وہ ہیک شدہ ڈیوائسز جیسے سستے اسمارٹ ٹی ویز پر نقل نہیں ہو جاتے۔

ہیوم نے کہا کہ جو حاکم ایجنسیاں نقل و حفظ کرتی ہیں، وہ "اپنے اپنے ارادوں" والے "عجیب غیر انسانی ذہن" پیدا کریں گی۔ ہیوم نے کہا کہ قومی حفاظت کے اداروں نے انسانی منفرد فریقین اور دہشت گرد تنظیموں کا مقابلہ کرنے کا طریقہ سیکھ لیا ہے، لیکن انہوں نے سوال اٹھایا کہ ادارے منفرد طور پر کام کرنے والی حاکم ایجنسیوں کا کیسے سامنا کریں گے۔

ستمبر میں Anthropic کے سی ای او داریو ایموڈی نے چेतاؤ کیا تھا کہ AI ایجنسز انٹرنیٹ پر کنٹرول حاصل کر سکتی ہیں۔ تاہم، سیکورٹی ماہرین نے ایموڈی کے چیتناؤ کو چیلنج کیا۔ Expel کے سی ٹی او گریگ ناچ نے ایک مضر AI سویرم کو "بہت دور کی بات" قرار دیا۔ SANS انسٹیٹیوٹ کے راب ٹی لی نے کہا کہ ایجنسز کو مہنگے کمپوٹنگ وسائل کی ضرورت ہوتی ہے، جبکہ روایتی بٹ نیٹس کی ضرورت نہیں ہوتی، جس سے دفاعی طرف کے لیے ایجنسز کو روکنے کا واضح ذریعہ فراہم ہوتا ہے۔

ہیوم کی رپورٹ کہتی ہے کہ موجودہ تحفظات کچھ حفاظت فراہم کر سکتے ہیں کیونکہ فرنٹیئر AI کمپنیاں پہلے سے ہی ماڈلز کو ہیکنگ کے درخواستوں کو مسترد کرنے کی تعلیم دے رہی ہیں۔ ہیوم کی رپورٹ واشنگٹن کو مجبور کرتی ہے کہ وہ AI ڈویلپرز سے نئے ماڈلز کی بقا کی صلاحیت کا جائزہ لینے کا مطالبہ کرے، جس کے ساتھ ہیکنگ اور جینیٹک ہتھیاروں کی صلاحیتوں کے لیے موجودہ جائزے بھی شامل ہوں۔ ہیوم کی رپورٹ نے بینک سیکریسی ایکٹ پر مبنی قانون سازی کا تجویز کیا ہے جس میں ایجنسٹس کو درکار خدمات کے لیے شناخت چیکس اور سکیورٹی معیارات لازمی ہوں گے۔ ہیوم کی رپورٹ ان افراد یا ماڈل ڈویلپرز کے لیے ذمہ داری کا مطالبہ کرتی ہے جو ایک س Sovereign ایجنسٹ جاری کرتے ہیں۔