ChainCatcher کی رپورٹ کے مطابق، GoPlus Security ٹیم نے اپنے AgentGuard AI پروجیکٹ میں ایک نئے حملے کا انکشاف کیا ہے: "تاریخی یادداشت کا زہریلا اثر (memory poisoning)" کے ذریعے AI ایجینٹ کو بغیر واضح اجازت کے حساس آپریشنز انجام دینے کے لیے متاثر کیا جاتا ہے۔ یہ حملہ روایتی کمزوریوں یا برے کوڈ پر منحصر نہیں ہوتا، بلکہ AI ایجینٹ کے طویل مدتی یادداشت مکانزم کا استعمال کرتا ہے۔ مثال کے طور پر، حملہ آور پہلے ایجینٹ کو "ترجیحات" یاد دلانے کے لیے متاثر کرتا ہے، جیسے "عام طور پر منافع کا انتظار کرنے کے بجائے فوری ریفند کرنا"، اور پھر بعد میں "روایت کے مطابق سنبھالیں"، "پہلے جیسا عمل کریں" جیسے ابہام والے الفاظ استعمال کرتا ہے تاکہ آٹومیٹڈ فنڈ آپریشنز فعال ہو جائیں۔ GoPlus کا کہنا ہے کہ اس خطرے کا بنیادی نقطہ یہ ہے کہ AI ایجینٹ "تاریخی ترجیحات" کو اجازت کے طور پر غلط سمجھ لیتا ہے، جس سے ریفند، ٹرانسفر، یا ترتیبات میں تبدیلی جیسے آپریشنز میں فنڈز کا نقصان یا سلامتی کا واقعہ پیدا ہوتا ہے۔ اس مسئلے کے حل کے لیے ٹیم نے متعدد تحفظ کے تجاویز پیش کیے ہیں، جن میں شامل ہیں: · ریفند، ٹرانسفر، حذف یا حساس ترتیبات سے متعلق آپریشنز کے لیے موجودہ سesh میں واضح تصدیق ضروری ہوگی · "عادت"، "عام طور پر"، "اس طرح جاری رکھیں" جیسے یادداشت متعلقہ حکمات کو اعلٰى خطرہ والے تبدیلیوں کے طور پر سمجھا جائے · طویل مدتی یادداشت میں قابل رجوع مکانزم (لکھنے والا، وقت، تصدیق شدہ ہے یا نہیں) ضرور ہونا چاہئے · ابہام والے حکمات کو خودکار طور پر خطرے کا درجہ بڑھانا چاہئے اور دوبارہ تصدیق کا عمل شروع کرنا چاہئے · طویل مدتی یادداشت حقیقی وقت کی اجازت عمل کو مکمل طور پر نہ بدل سکتی ٹیم نے زور دے کر کہا ہے کہ "AI ایجینٹ یادداشت سسٹم" کو ایک بالقوہ حملہ کا نقطہ سمجھنا چاہئے اور اسے خاص سلامتی فریم ورک کے ذریعے پابند اور جانچنا چاہئے۔
نیا AI ایجینٹ سیکیورٹی خطرہ: میموری پوئسننگ غیر مجاز فنڈ آپریشنز کا سبب بن سکتی ہے
Chaincatcherبانٹیں
خلاصہ
گوپلس سیکیورٹی ٹیم کے ذریعے اپنے ایجینٹگارڈ پراجیکٹ میں ایک نیا AI خطرہ دریافت ہونے کے بعد، جو خطرہ انتظام کے معاملات بڑھ گئے ہیں۔ حملہ آور میموری کو زہر دے کر AI ایجینٹس کو غیر اجازت دی گئی فنڈ ماؤووز کرنے کے لیے متاثر کر سکتے ہیں۔ ترجیحات پر مبنی میموریز ڈال کر، حملہ آور بعد میں عام ہدایات کے ذریعے ایکشنز کو فعال کرتے ہیں۔ بنیادی مسئلہ یہ ہے کہ ایجینٹس میموری کے انٹریز کو اجازت سمجھ لیتے ہیں، جس سے آٹومیٹڈ ٹریڈنگ میں خطرہ-سے-منافع کا تناسب جانچنے میں خلل پڑ سکتا ہے۔ خطرات کو کم کرنے کے لیے، گوپلس تجویز کرتا ہے کہ حساس ایکشنز کے لیے واضح تصدیق ضروری ہو، میموری پر مبنی ان پٹس کو اعلیٰ خطرہ سمجھا جائے، اور تمام طویل مدتی میموری انٹریز قابلِ ٹریس ہوں۔ ابھام والے ہدایات کو زیادہ خطرہ لیول دینا چاہئے، اور ریل ٹائم تصدیق کو محفوظ ترجیحات سے نہ بدلنا چاہئے۔
ذریعہ:اصل دکھائیں۔
اعلان دستبرداری: اس صفحہ پر معلومات تیسرے فریق سے حاصل کی گئی ہوں گی اور یہ ضروری نہیں کہ KuCoin کے خیالات یا خیالات کی عکاسی کرے۔ یہ مواد کسی بھی قسم کی نمائندگی یا وارنٹی کے بغیر صرف عام معلوماتی مقاصد کے لیے فراہم کیا گیا ہے، اور نہ ہی اسے مالی یا سرمایہ کاری کے مشورے کے طور پر سمجھا جائے گا۔ KuCoin کسی غلطی یا کوتاہی کے لیے، یا اس معلومات کے استعمال کے نتیجے میں کسی بھی نتائج کے لیے ذمہ دار نہیں ہوگا۔
ڈیجیٹل اثاثوں میں سرمایہ کاری خطرناک ہو سکتی ہے۔ براہ کرم اپنے مالی حالات کی بنیاد پر کسی پروڈکٹ کے خطرات اور اپنے خطرے کی برداشت کا بغور جائزہ لیں۔ مزید معلومات کے لیے، براہ کرم ہماری استعمال کی شرائط اور خطرے کا انکشاف دیکھیں۔