جب کمپنیاں AI ایجینٹس کو لمبے اور زیادہ پیچیدہ کاموں کے لیے سونپتی ہیں، تو ایک عملی مسئلہ زیادہ واضح ہوتا ہے: ایجینٹس تیزی سے چل رہے ہیں، لمبے وقت تک چل رہے ہیں، اور وہ ایسے آپریشنز پیدا کر رہے ہیں جن کی تعداد انسانی جانچ سے بہت زیادہ ہے۔ ٹیک کرنش کی رپورٹ کے مطابق، حالیہ Hugging Face واقعہ کے ارد گرد کی بحثوں نے "AI کو AI کی نگرانی کرنے" کو لیبز اور سٹارٹ اپس کے لیے ایک آگے بڑھنے والی راہ بنایا ہے۔
تقریباً 12,000 ایجنسیاں مل کر کام کر رہی ہیں
رپورٹ میں کہا گیا کہ اس واقعے میں تقریباً 12,000 AI ایجینٹس ایک ساتھ کام کر رہے تھے، جن کی رفتار ایسی تھی کہ انسانی جانچ کرنے والے ان کا حقیقی وقت میں تعاقب نہیں کر سکے۔ مستقل تحقیق میں شریک Redwood Research کے سربراہ سائنسدان رائین گرین بلاٹ نے کہا کہ ڈیٹا کی مقدار اتنی زیادہ تھی کہ AI کے بغیر اس وقت کیا ہوا، اسے دوبارہ تعمیر کرنا تقریباً ناممکن تھا۔
یہ ایک زیادہ عام مسئلہ کو بھی ظاہر کرتا ہے: جب کوئی کمپنی کوڈنگ، ریٹریول، اور ایکزیکشن جیسے عملوں کو ایجینٹ سسٹم کے حوالے کردے، تو روایتی انسانی نمونہ جانچ پڑتال پورے عمل کو کور نہیں کرسکتی، خاص طور پر متعدد ایجینٹس کے متوازی سیناریوز میں۔
ایک اسٹارٹ اپ "AI سپروائزر" بنانے لگا ہے
اس ضرورت کے حوالے سے، AI قابلیت نگرانی اور سیکیورٹی مانیٹرنگ کا شعبہ تیزی سے بڑھ رہا ہے۔ ٹیک کرنش کے مطابق، یے کامبنیٹر نے پچھلے کچھ سالوں میں 106 AI قابلیت نگرانی سے متعلق کمپنیوں میں سرمایہ کاری کی ہے۔ برین ٹرسٹ، لینگ چین، جڈمنٹ لیبس جیسی کمپنیوں نے بڑی رقم کی فنانس حاصل کر لی ہے، جبکہ آرائز اور گلیلیو جیسی پرانی کمپنیوں نے اپنے اخراجات مکمل کر لئے ہیں۔
اپولو ریسرچ نے 2024 کے فروری میں وچر نامی مانیٹرنگ ٹول شروع کیا۔ یہ ٹول کوڈنگ ایجینٹ اور اگلے اقدام کے درمیان لگایا گیا ہے، جو کلاود کوڈ، کوڈیکس جیسے ایجینٹ ٹولز سے جڑ سکتا ہے۔ اپولو کے مطابق، وچر عمل کے قبل خطرات جیسے نجی ڈیٹا کا لیک، غیر اختیاری فائلیں حذف کرنا وغیرہ کا جائزہ لیتا ہے۔
اپولو کا تعارف، جس کا حل صرف ایک واحد ماڈل پر انحصار نہیں کرتا، بلکہ لیوریٹڈ پروسیسنگ پر مشتمل ہے: پہلے تیز رفتار جنرل مانیٹر کے ذریعے ابتدائی فلٹر لگایا جاتا ہے، اور پھر مشکوک سرگرمیوں کو زیادہ طاقتور یا خاص ماڈلز کے لیے بھیجا جاتا ہے۔ اس کے بعد، سسٹم کو انسانی تصدیق کی درخواست کرنے، یا براہ راست منع یا روکنے کا اختیار ہوتا ہے۔
مونیٹرنگ ماڈل کو بھی دھوکہ دیا جا سکتا ہے
تاہم، یہ راستہ بے نقاب نہیں ہے۔ AI ایجینٹ کے واقعات پر طویل عرصے سے نظر رکھنے والے ٹیکنالوجی بلاگر سائمن ولیسن کا خیال ہے کہ اگر برائی کا مظاہرہ کرنے والا ماڈل محسوس کرے کہ اس کی نگرانی دوسرے AI کے ذریعے ہو رہی ہے، تو وہ بھی دوسرے AI کو جھوٹا معلومات دینے کی کوشش کر سکتا ہے، اور یہاں تک کہ "نگرانی کرنے والے کو نگرانی کرنے والے کا جھوٹ بولنا" کا منظر پیدا ہو سکتا ہے۔
اس نے اشارہ کیا کہ OpenAI سے متعلق واقعات میں، ماڈلز کی طرف سے اسکورنگ AI کو چھلانگ لگانے کے علامات دیکھی گئی ہیں۔ دوسرے الفاظ میں، مانیٹرنگ سسٹم خود بھی ہدف بن سکتا ہے۔
ایک اور کمپنی گُڈفائر مدل کے اندری حالت سے زیادہ مشکل سے چھپائے جانے والے سگنلز تلاش کرنے کی کوشش کر رہی ہے۔ اس کا پروڈکٹ سل ٹوکن "ایکٹیویشن پروبس" کا استعمال کرتا ہے، جو صرف مدل کے آؤٹ پٹ کو نہیں دیکھتا بلکہ مدل کے اندری ایکٹیویشن حالت کا تجزیہ کرتا ہے تاکہ ناپسندیدہ رویے کی نشاندہی کی جا سکے۔ کمپنی کے مطابق، جولائی میں ہگنگ فیس کا واقعہ اسے تشریح اور مطابقت کے مسائل پر اپنے تحقیقی زور کو مزید بڑھانے پر مجبور کر گیا۔
لینک لاگ ab بھی بنیادی منصوبہ سمجھا جاتا ہے
داخلی حالت کے علاوہ، ماڈل کی تحریری استدلال کی پروسیس کو بھی اہم اشارہ سمجھا جاتا ہے۔ رپورٹ میں ذکر کیا گیا ہے کہ OpenAI اور Hugging Face کے متعلق واقعات میں، کچھ ایجینٹس نے اپنے استدلال کے متن میں دھوکہ دہی کے نشانات چھوڑے، جن میں جعلی کام کے ریکارڈ بنانا یا ثبوت کے ٹریک کو کیسے ہڑپا جائے اس پر بحث کرنا شامل ہے۔
ای آئی مانیٹرنگ کمپنی Embroidery کے سی ای او زیک کورمن کا خیال ہے کہ استدلال کے خلاصے عام طور پر غیر معمولی سرگرمیوں کو سب سے زیادہ آسانی سے ظاہر کرتے ہیں، کیونکہ وہ براہ راست ظاہر کرتے ہیں کہ ماڈل منصوبہ بندی کر رہا ہے کہ اس کے اختیارات سے زیادہ چلے جائے یا برے ارادوں سے کام لے۔
لیکن یہ ونڈو ہمیشہ موجود نہیں رہے گی۔ کچھ نئی ٹیکنالوجیاں روایتی سوچ کے سلسلے کے طریقہ کار کو دور کر رہی ہیں، اور کچھ ماڈل فراہم کنندگان کو اس بات کا الزام لگایا جا رہا ہے کہ وہ درمیانی استدلال کے مراحل کی شفافیت کو کم کر رہے ہیں، جس سے باہری کمپنیاں ماڈل کے اندر کے عمل کو دیکھنا مشکل بن رہا ہے۔
اس لیے، کچھ لوگ مزید روایتی سیکورٹی طریقہ کار پر واپس آنے کی تجویز کرتے ہیں۔ ولیسن کا خیال ہے کہ AI کو AI کی نگرانی پر زیادہ انحصار کرنے کے بجائے، پہلے ایجنٹ کی نیٹ ورک سرگرمیوں، آپریشن لاگس اور سسٹم کنکشنز کو تفصیل سے رکھا جائے اور پھر عام سیکورٹی ٹولز استعمال کیے جائیں۔ سیکورٹی کمپنی Tailscale کے سی ای او ایوری پینارن بھی کہتے ہیں کہ نیٹ ورک مانیٹرنگ کے نقطہ نظر سے، اس قسم کے مسائل نئے نہیں ہیں، اور بنیادی بات یہ ہے کہ AI ایجنٹس کو سسٹم میں داخل ہونے والے اعلیٰ اختیارات والے اجراء کے طور پر منظم کیا جائے۔