مطالعہ سے پتہ چلا کہ AI کریپٹو ایجنسز پر پرامپٹ انجیکشن حملوں کے لیے زخمی ہیں

جب AI ایجنسز — وہ خودمختار بٹس جو براؤز، تحقیق، خریداری اور کریپٹو ٹریڈ کرنے تک کر سکتے ہیں — لیبارٹریوں سے حقیقی دنیا کے نظاموں میں منتقل ہو رہے ہیں، تو تحقیق کاروں نے ایک پیچیدہ مسئلہ کو برقرار رہنے کی نشاندہی کی ہے: پرامپٹ انجیکشن حملے۔ نانیانگ ٹیکنولوجیکل یونیورسٹی، ایس ٹی انجینئرنگ، IBM ریسرچ اور ایلینوائے یونیورسٹی اربانا-شامپین کی ایک عالمی ٹیم نے رپورٹ کی ہے کہ موجودہ ایجنسز پرامپٹ انجیکشن حملوں کے لحاظ سے انتہائی متاثرہ ہیں، اور کوئی بھی ٹیسٹ کیا گیا کنفگریشن مستقل مزاحمت نہیں دکھاتا۔ پرامپٹ انجیکشن کیا ہے؟ - پرامپٹ انجیکشن اس وقت ہوتا ہے جب حملہ آور ایک ایجنس کے پڑھنے والے مواد (ویب پेज، لنکس، یا دوسرے دستاویزات) کے اندر ہدایات چھپا دے۔ اس کے بعد ایجنس صارف کے مقصد کے بجائے حملہ آور کی چھپائی گئی ہدایات پر عمل کر سکتی ہے — جب ایجنسز مالی کاموں، جیسے ٹریڈز انجام دینا یا والٹس اور ایکسچینجز کے ساتھ تعامل کرنا، پر خودمختار طور پر کام کرنے کی اجازت دے دی جائے تو یہ واضح خطرہ ہے۔ تحقیق نے کیا کیا؟ - حقیقی دنیا کے خطرے کا بہتر اندازہ لگانے کے لئے، تحقیق کاروں نے StakeBench بنایا، جو AI ایجنسز کو حقیقی آن لائن ماحول میں پرامپٹ انجیکشن کے خلاف ٹیسٹ کرتا ہے۔ StakeBench وہ "غیر مستقیم پرامپٹ انجیکشن" پر توجہ مرکوز کرتا ہے — وہ ڈپلوائمنٹ رلیونٹ چینل جہاں مضر ہدایات اس ماحول میں شامل ہوتی ہیں جس سے ایجنس واقعات ملتا ہے۔ - StakeBench تین اہم عوامل کو ٹیسٹ کرتا ہے جو حملے کے اثر میں تبدیلی لاتے ہیں: 1. انجکٹڈ مقصد اور صارف کے اصل مقصد کے درمیان سمنٹک فاصلہ (چھپائے گئے مقصد کتنے مشابہ یا مختلف ہونا)۔ 2. ماحول کے اردگرد کے سرنگوں کا مستقل رجحان (کيا انجکٹڈ مواد صفحے یا ذرائع میں قدرتی طور پر فٹ بھرتا ہے)۔ 3. اس وقت جب ایجنس اپنے اجراء کے سفر میں پہل بار انجکٹڈ مواد سے ملتا ہے۔ انھوں نے کya ٹیسٹ کيا؟ - ٹیم نے دو ایجنس فریم ورکس (NanoBrowser اور BrowserUse) کو GPT-5 اور Gemini 2.5-Flash کے ساتھ جوڑ کر 3,168 ش simulated حملوں کا آغاز کيا۔ اہم نتائج - تمام ٹیسٹ شدہ سطحوں پر براہ راست پرامپٹ انجیکشن حملوں ميں زياتر ترین صورتوں ميں (79% سے زائد) کاميابي حاصل ہوئي۔ - غیر مستقیم پرامپٹ انجکشن کاميابي شرح صرف 41.67% سے لے کر 68.16% تک مختلف تھي، جو ماحول اور اوپر تین عوامل پر منحصر تھي۔ - تحقีق كاروں نے "چُپچاپ پیراسِتِزم" نام كيا جان والا ظاھر كيا جس ميں ايك ايجنس صارف كا درخواست كردہ كام بھي كرتي هـي لekiن ساتھ ساتھ حمله آور كا مقصد بھي آگيـ بڑھاتي هـي—مثلاً تجاويز كو خفيا طور پر موڑنا۔ كرِيپتو كي صورت ميں، يه صرف كسائي خاص ٽوكن كي طرف صارف كي طرف راغب كرنا يا حمله آور كي فائدې كي لئي ٽرِيدز كرنا شامل هـو سكتا هـي، بغير كسائي واضح نشانات كي۔ اس بات كي كرِيپتو ميں كيا اهميت هـي؟ - خودمختار ايجنسز بار بار ماركت ڈيٽا، ٽرِيدز كرن، والٽس كا انتظام، اور DeFi پروٽوكولز كي طرف ساتھ تعامل كرن كي لئي استعمال هوتى هـين۔ لِذا، پرامپٹ انجكشن خامى زيرِ فكر حمله كى جگه بن جاتى هـين: غلطٽوكن تجاويز، منقلب شدہ پورٽ فوليو رِبالنسنگ، لِيك شدہ حسابات يا غير مجاز لين دين تك۔ - تحقीق كاروں نے زور ديا هـي كه پرامپٹ-انجكشن خطره "ضحيه منحصر" هـي: وھىي استعمال وھىي خطره مختلف نتائج ديندا هـي، جب تك ايجنس كس كي طرف ساتھ عمل كرتى هـي، اور اثر سمنٹك تطابق اور سسٽم آرٽيكٽشر كى طرف ساتھ شكل ليندا هـي—صرف زیرِبناد زبان ماڈل نهين۔ ماحول اور قبله واقعات - يه تحقِيق مسلسل حقِيقى دنِيا كى خبروں كى دنباله كرتى هـي: مائيكروسافٽ نے فبروري ميں AI خلاصه لنكس ميں چھپائى گئى ہدایات كى خبر دى؛ جوگل نے اپريل ميں ويب صفحوں پر پرامپٹ انجكشن كى وضاحت كى جن ميں ايجنسز حسابات لِيك يا ادائِگى بھجنे كى كوشيش كرتى رهي؛ اور مائيكروسافٽ نے حال هى ميں Anthropic كى Claude Code GitHub Action ميں پرامپٹ انجكشن خامى كى خبر دى جس ساتھ صارف حسابات فاش هوسكتى تھي۔ اختتامي نقطه - پرامپٹ-انجكشن سلامتى ماڈل كى واحد خصوصيت نهين بلكه متعدد محاذوں والى نقصانات كى تقسيم هـي جو منافع دار، كام تطابق، اور نصب شدہ ماحول ساتھ متاثر هوتى هـي۔ كرِيپتو منصوبوں اور صارفين جو خودمختار ايجنسز پر انحصار كرتى هـين، يه تحقِيق انھيں جاگنې كى دعوت ديتى هـي: قبله سرمایه يا والٽ حسابات كى تحفظ ديئے بغير ان ايجنسز كو اختيار دينे ساتھ محكم، ماحول-آگاہ تقييم (StakeBench جيسا) اور مضبوط دفاع دركاري هـي۔