ایٹ آئی ہوم، 20 اکتوبر کی خبر، مائیکروسافٹ نے مقامی وقت کے مطابق پیر کو کئی نئی سیکورٹی فیچرز متعارف کرائے ہیں، جو کہ کاروباروں کو بڑھتے ہوئے ایجنٹس کے سیکورٹی خطرات سے بچانے کے لیے ہیں۔ اس پروڈکٹ کے جاری کرتے ہوئے، مائیکروسافٹ کاروباروں کو مصنوعی ذہانت اور ایجنٹس کے مختلف خطرات کے بارے میں مستقل خبردار کر رہا ہے۔
IT ہوم نوٹ کیا کہ اس نئی خصوصیات میں سب سے زیادہ توجہ حاصل کرنے والی چیز گارڈین ایجینٹس ہے، جو کہ کمپنیوں کے اندر استعمال ہونے والے مختلف AI ایجینٹس کی نگرانی کے لیے استعمال ہوتی ہے۔ گارڈین ایجینٹس پریسیپشن پراجیکٹ (Project Perception) کا حصہ ہے، جو مائیکروسافٹ نے جون میں جاری کیا تھا۔
پیروی پراجیکٹ، مائیتھوس، فیبل جیسے طاقتور ہیکنگ ماڈلز اور OpenAI کے سیکیورٹی اسکین سسٹم ڈےبریک کے لیے مائیکروسافٹ کا جواب ہے۔ پیروی پراجیکٹ نے شروع میں تین قسم کے ایجنٹس متعارف کرائے: سرخ ٹیم ایجنٹس جو ہیکنگ کا کردار ادا کرتے ہیں، نیلی ٹیم ایجنٹس جو سرخ ٹیم کے حملوں کا پتہ لگاتے اور خامیوں کا جائزہ لیتے ہیں، اور گرین ٹیم ایجنٹس جو خامیوں کو درست کرتے ہیں۔
اس مصنوع کے اصل ڈیزائن کی بنیاد یہ تھی کہ AI ہیکرز کاروبار کے باہر سے آئیں گے۔ لیکن حالیہ وقت میں، مائیکروسافٹ کے سی ای او ساتیا نڈیلا نے انتباہ دیا ہے کہ AI سطح پر خطرے کا ذریعہ کاروبار کے اپنے ہی ڈپلوی کردہ اور ادائیگی کیے گئے ایجنٹس ہو سکتے ہیں، جو ایک بے قابو اندر کے ملازم کی طرح ہوتے ہیں، جسے عام طور پر "اندر کا خطرہ" کہا جاتا ہے۔
اس مہینے کے شروع میں، نادیلا نے اپنے ذاتی بلاگ میں انتباہ جاری کیا: یہ وقت ہے کہ ہم AI ماڈل فراہم کنندگان پر بھروسہ نہ کریں، چاہے وہ اپنے خود مختار کارروائی کرنے والے ایجینٹ مصنوعات کے لیے سیکیورٹی کے عوامل کا وعدہ کریں۔ اس نے کمپنیوں کو ایک مستقل نظام تعمیر کرنے کی تجویز دی، جو AI لیبارٹریز کے تحت نہ ہو، تاکہ ان AI لیبارٹریز کے ذریعے جاری کردہ ایجینٹس کی نگرانی اور کنٹرول کیا جا سکے۔
اس نے لکھا: "ہم ایسے پیچیدہ ایجنٹ سسٹم اور ماڈلز کو ڈپلوی کر رہے ہیں جو ہمارے سب سے حساس ڈیٹا تک رسائی رکھتے ہیں اور ہماری طرف سے اہم کاروباری آپریشنز کرتے ہیں! ہم ایجنٹس کو ہماری طرف سے کام کرنے کی ذمہ داری باہر نہیں دے سکتے۔ ماڈل فراہم کنندگان کے ذریعہ دی گئی ضمانتیں ہماری اس ذمہ داری کو ختم نہیں کر سکتیں... دوسرے الفاظ میں، ہمیں ایجنٹ کی صلاحیت کی فراہمی اور اس پر کنٹرول کے اختیارات کو الگ کرنا ہوگا۔"
ہائیٹے گلٹ نے سیفٹی ایجنٹس کی تعارف کے دوران زیادہ صاف الفاظ استعمال کیے۔
اس نے لکھا: "متاسفانہ، سب سے آگے کے ماڈلز، چاہے وہ کہیں سے بھی کیوں نہ ہوں، ان پر مکمل طور پر بھروسہ نہیں کیا جا سکتا۔" اس نے مزید کہا کہ یہ اس لیے نہیں کہ ماڈل خود بخود بری نیت رکھتا ہے یا ہیکرز کے حملے کا شکار ہو جاتا ہے، بلکہ اس کا رویہ غیر قابل پیشگوئی ہوتا ہے۔ ماڈل کا تربیتی مقصد مقررہ کام کو مکمل کرنا ہوتا ہے، نہ کہ "تنظیمی معیار یا ججمنٹ گائیڈ لائنز" کی پابندی کرنا۔
اس کے علاوہ، یہ ایجنٹز عام طور پر اعلیٰ اجازتیں رکھتے ہیں، جن کے ذریعے وہ مختلف ڈیٹا اور ٹولز تک رسائی حاصل کر سکتے ہیں، اگر ان کا کنٹرول خارج ہو جائے تو وہ شدید نقصان پہنچا سکتے ہیں۔
مایکروسافٹ کی طرف سے پیش کی گئی یہ حل کاری، غیر متوقع ہے اور اپنے تجارتی خواہشات سے بھی متعلق ہے۔ غیر متوقع بات یہ ہے کہ مایکروسافٹ کا OpenAI اور Anthropic کے ساتھ گہرا تعلق ہے اور دونوں کمپنیوں میں اس نے سرمایہ کاری بھی کی ہے۔ OpenAI مایکروسافٹ کے کلاؤڈ بزنس کا بڑا صارف بھی ہے، اور مایکروسافٹ خود بھی بڑے ماڈلز کے ترقی کے لیے ایک AI لیب رکھتا ہے۔ یعنی، مایکروسافٹ اپنے صارفین کو اپنے جزوی تجارتی شراکت داروں کے مصنوعات کے بارے میں احتیاط کرنے کی ترغیب دے رہا ہے۔
اور کاروباری منافع کے نقطہ نظر سے، مائیکروسافٹ چاhti ہے کہ کمپنیاں اپنے خود کے کلاؤڈ سرور سے ایجنٹ سیکیورٹی مصنوعات خریدیں، نہ کہ Anthropic اور OpenAI سے۔ منافع کے تنازعات کو چھوڑ دیں، تو یہ منطق خود اپنی جگہ رکھتا ہے: ایجنٹ کے رویے کو مانیٹر کرنے والے سافٹ ویئر کو ایجنٹ کے فراہم کنندہ سے مستقل ہونا چاہئے، جیسے آڈٹ اداروں کو آڈٹ ہونے والی تنظیم سے مستقل ہونا چاہئے۔
جیسے نادیلا نے کہا: "ہمیں اسٹائل کی فراہمی اور اس پر کنٹرول کے اختیارات کو الگ کرنا ہوگا۔"
مائیکروسافٹ اس تجارتی موقع کو متعدد طریقوں سے پکڑ رہا ہے۔ دفاعی ایجنٹ کے علاوہ، مائیکروسافٹ ڈیفینڈر مصنوعات میں ایجنٹ کی تشخیص کی نئی سہولت شامل کی گئی ہے، جو کارکنان کے ذریعہ کام کے ماحول میں لائے جانے والے 60 ایجنٹس تک پہچان سکتی ہے، جن میں کلوڈ کوڈ، کوڈیکس اور اوپنکلو شامل ہیں۔ اس کے علاوہ، ایجنٹس کو ڈیٹا اور سسٹمز تک رسائی کے اختیارات پر پابندی لگانے اور کام کے مطابق ایجنٹس کے اختیارات کو دینے کی نئی سہولت بھی شامل کی گئی ہے۔ اگر کوئی ایجنٹ اعلیٰ خطرہ والی سرگرمی کرنا چاہ رہا ہو، تو سسٹم انسانی تصدیق کا مطالبہ کرے گا۔
ایک ایسے خیال کی طرف بھی پورے صنعت میں آہستہ آہستہ متفقہ رائے بنتی جا رہی ہے کہ ایجنٹس کو غیر قابل اعتماد اندر کے خطرے کے طور پر دیکھا جائے۔
مائیکروسافٹ، نیوڈیا کے نئے اوپن ایجینٹ سیفٹی پلیٹ فارم کا بنیادی رکن ہے، جس کی حمایت اب تک 100 سے زائد ٹیک کمپنیوں نے کی ہے۔ یہ پلیٹ فارم ایجینٹس کو محفوظ ماحول میں الگ کرتا ہے اور ہارڈ ویئر کے ذریعے غیر معمولی سرگرمیوں کا مشاہدہ کرکے انہیں روکتا ہے، جو ایک ایمرجنسی شٹ آف سوئچ کے کام کرتا ہے۔ اس سے پہلے، مائیکروسافٹ نے ایجینٹس کے لیے مخصوص نئے Surface Laptop Ultra لیپ ٹاپ جاری کیے، جن میں نیوڈیا کے چپس اور ایجینٹ سیفٹی کنٹرول ماڈول شامل ہیں۔