ای آئی ایجنٹس ملیونوں اینٹرپرائز صارفین کے نام پر کوڈ لکھ رہے ہیں، ڈیٹا بیسز کو کوئری کر رہے ہیں، اور کلاؤڈ API کو بل کر رہے ہیں۔ کراڈاسٹرائیک کو لگتا ہے کہ اس کے پاس اس بات کا جواب ہے کہ جب ان میں سے ایک ایجنٹ کام کے درمیان ہی ہک ہو جائے۔
1 ستمبر 2026 کو Fal.Con پر، کمپنی نے Falcon Guardian کا اعلان کیا، جو ایک رن ٹائم سیکورٹی لیئر ہے جو اینٹرپرائز اینڈ پوائنٹس پر چلنے والے AI ایجنسز کی نگرانی اور پولیس کرنے کے لیے خاص طور پر تعمیر کی گئی ہے۔ یہ پروڈکٹ CrowdStrike کے موجودہ Falcon AI Detection and Response فریم ورک کے اندر شامل ہے، اور اس کا پہلا عوامی ٹیسٹ ایک منصوبہ بند شو نہیں تھا۔ یہ ایک لائیو حملہ روکنا تھا۔
ڈیمو میں کیا ہوا
جس سیناریو کو کراڈاسٹرائیک نے بیان کیا، اس میں اینتھرپک کا کلوڈ کوڈ شامل تھا، جو ایک مقبول AI کوڈنگ اسسٹنٹ ہے جسے ڈیولپرز مقامی طور پر چلا کر پروگرامنگ کے کاموں کو خودکار بناتے ہیں۔ ڈیمو کے دوران، ایجنٹ کو ایک مضر غیر مستقیم پرامپٹ انجیکشن ملا، جس کا مطلب تھا کہ ایجنٹ کے کنٹیکس ونڈو میں کہیں چھپا ہوا ایک حکم اسے ایسا کچھ کرنے کو کہ رہا تھا جو اس کا آپریٹر کبھی منظور نہیں کرتا۔
وہ غیر اختیاری چیز مشین پر محفوظ AWS کریڈنشلز کو باہر نکال رہی تھی۔
فیلکن گارڈین نے کسی بھی اعتماد کے تفصیلات کو ایند پوائنٹ سے باہر جانے سے پہلے روک لیا۔ سسٹم نے اس واقعے کو 90 کا انتہائی خطرناک اسکور دیا، غیر معمولی ٹول کال کو نشان زد کیا، اور انجام دینے سے روک دیا۔ پھر اس نے جاری رکھا: گارڈین نے اسی ماحول میں دیگر ایجینٹس پر 12 مشابہ حملوں کی شناخت کی اور ان سب کو روک دیا، بغیر کسی بھی مشین سے کسی اعتماد کی تفصیل کے نکلنے کے۔
حملے کا خود ہی قسم، غیر مستقیم پرامپٹ انجیکشن، ایک ایجنٹ کو باہری ذریعے، جیسے کہ ویب پیج، فائل یا کوڈ کمنٹ سے مواد پڑھنے پر مشتمل ہے، جہاں وہ مواد ایسے ہدایات پر مشتمل ہوتا ہے جو قانونی سیاق و سباق کے طور پر چھپائے گئے ہوتے ہیں۔ ایجنٹ، اپنے مفید ہونے کے لیے پروگرام کیے جانے کے مطابق، ہدایت کو انجام دیتا ہے۔ انسانی آپریٹر کبھی بھی اس کو ہوتے دیکھتا نہیں۔
فیلکن گارڈین کیسے کام کرتا ہے
فالکن گارڈین، کراڈاسٹرائیک کے اینڈ پوائنٹ ڈیٹیکشن اور ریسپانس کے اصولوں کو AI ایجنٹ لیئر تک وسیع کرتا ہے۔ یہ سسٹم پرومت اور ٹول کالز کا جائزہ لینے کے لیے نیٹیو ہُکس استعمال کرتا ہے۔ جب ایجنٹ کوئی ایکشن کرنے کی کوشش کرتا ہے، تو گارڈین کال کے عمل میں آنے سے پہلے اسے پالیسی کے ساتھ چیک کرتا ہے۔ اگر کال پرومت انجیکشن، غیر اجازت دی گئی کریڈنشل تک رسائی، یا سکوپ سے باہر کا API درخواست لگتی ہے، تو سسٹم اسے روک دیتا ہے اور واقعہ کو لاگ کر دیتا ہے۔
یہ دریافت کو بھی سنبھالتا ہے۔ کراؤڈاسٹرائیک نے کہا ہے کہ وہ اپنے اینٹرپرائز نیٹ ورک کے ذریعے 160 ملین سے زائد ایجنٹ انستنسز پر نظر رکھ رہا ہے، اور اس نظر رکھنے کے ذریعے 1,800 سے زائد منفرد ایجنٹک ایپلیکیشنز کی شناخت کی گئی ہے۔ ان میں سے بہت سے شیڈو ایجنٹس کے طور پر درج ہوتے ہیں، جو ذاتی ڈویلپرز یا ٹیموں کے ذریعے فارمل آئی ٹی منظوری کے بغیر ڈپلوی کیے جاتے ہیں۔
اس پروڈکٹ کو تین بنیادی فنکشنل شعبوں کے ساتھ لانچ کیا گیا: ماحول کے اندر چلنے والے معلوم اور نامعلوم ایجنسز کی دریافت، ان ایجنسز کے کیا کر رہے ہیں اس کی ریل ٹائم ویژیبیلٹی، اور پالیسی کو لاگو کرنے اور تھریٹس کو روکنے والے فعال کنٹرولز۔ کراڈاسٹرائیک نے مزید انٹیگریشنز کو آنے والی خصوصیات کے طور پر بھی اعلان کیا، جبکہ AWS اور Anthropic کے موجودہ شراکت داریاں ڈھانچہ فراہم کر رہی ہیں۔
فالکن گارڈین ایجینٹ کے رویے کو صارف کی شناخت اور رن ٹائم ٹیلیمیٹری سے جوڑتا ہے، جس کا مطلب ہے کہ سیکورٹی ٹیمیں اس سوال کا جواب دے سکتی ہیں کہ کس انسانی آپریٹر کا ایجینٹ کیا کر رہا تھا اور اس نے بالکل کیا کرنے کی کوشش کی، بجائے ایک ناشناخت شدہ لاگ درجہ دیکھنے کے۔
ایسے کیوں اہم ہے کاروباری سیکورٹی ٹیمز کے لیے
ماڈل لیئر کی تحفظات، جو AI فراہم کنندگان اپنے ماڈلز میں ڈالتے ہیں، کبھی بھی ایک مصمم حملہ آور کے خلاف آخری دفاعی لائن کے طور پر ڈیزائن نہیں کی گئی تھیں۔ انہیں دور کیا جا سکتا ہے، مانیپولیٹ کیا جا سکتا ہے، یا فائن ٹیونڈ یا اوپن سورس ماڈلز میں ان کا وجود نہیں ہو سکتا۔ کراؤڈ اسٹرائیک فالکن گارڈین کے ساتھ یہ دعویٰ کر رہا ہے کہ اینڈ پوائنٹ لیول پر رن ٹائم کنٹرولز ماڈل وینڈر کے ذریعہ بنائے گئے کسی بھی چیز سے مستقل طور پر الگ ہونے چاہئیں۔
سیکیورٹی آپریشن ٹیموں کے لیے، یہ پروڈکٹ روایتی EDR میں موجود دیکھنے کی کمی کو دور کرتا ہے، جو آپ کو بتا سکتا ہے کہ ایک پروسیس نے ایک فائل تک رسائی حاصل کی، لیکن یہ نہیں بتا سکتا کہ ایک AI ایجینٹ کو ایک مارکڈاؤن دستاویز میں چھپے ہوئے پرامپٹ کے ذریعے اس فائل تک رسائی کرنے کے لیے متاثر کیا گیا تھا جسے ایجینٹ کو خلاصہ کرنے کے لیے کہا گیا تھا۔