নতুন এআই এজেন্ট নিরাপত্তা ঝুঁকি: মেমোরি পয়জনিংয়ের মাধ্যমে অননুমোদিত ফান্ড অপারেশন শুরু হতে পারে

ChainCatcher এর সংবাদ, GoPlus Security দল তাদের AgentGuard AI প্রকল্পে একটি নতুন আক্রমণ পদ্ধতি প্রকাশ করেছে: “ইতিহাসের স্মৃতি দূষণ (memory poisoning)” এর মাধ্যমে AI এজেন্টকে অনুমোদিত নয় এমন সংবেদনশীল কাজ করানো। এই আক্রমণ পদ্ধতিটি প্রচলিত দুর্বলতা বা ক্ষতিকর কোডের উপর নির্ভর করে না, বরং AI এজেন্টের দীর্ঘমেয়াদী স্মৃতি প্রক্রিয়াকে ব্যবহার করে। উদাহরণস্বরূপ, আক্রমণকারী প্রথমে এজেন্টকে “পছন্দ” মনে রাখতে উৎসাহিত করে, যেমন “সাধারণত চার্জব্যাকের অপেক্ষা না করে সক্রিয়ভাবে রিফান্ড করা,” এবং পরবর্তী নির্দেশে “প্রচলিতভাবে প্রক্রিয়াকরণ,” “আগের মতোই করুন” ইত্যাদি অস্পষ্ট বাক্যাংশ ব্যবহার করে, যার ফলে স্বয়ংক্রিয়ভাবে অর্থপ্রবাহ শুরু হয়। GoPlus-এর মতে, এই ঝুঁকির মূল বিষয়টি হলো AI এজেন্ট “ইতিহাসগত পছন্দ”কে অনুমোদনের ভিত্তি হিসেবে ভুলভাবে গণনা করে, যা রিফান্ড, ট্রান্সফার, কনফিগারেশন পরিবর্তনের মতো অপারেশনগুলিতে资金ক্ষতি বা নিরাপত্তা-সংকটের কারণ হয়। এই সমস্যার জন্য, দলটি নিম্নলিখিত সুরক্ষা পরামর্শগুলি প্রস্তাব করেছে: · রিফান্ড, ট্রান্সফার, ডিলিট,  বা  সংবেদনশীল  কনফিগারেশন  সংক্রান্ত  অপারেশনগুলি  অবশ্যই  বর্তমান  সেশনে  স্পষ্টভাবে  অনুমোদন  প্রয়োজন · “অভ্যাস,” “সাধারণত,” “আগের  মতো”  এই  স্মৃতি-ভিত্তিক  নির্দেশগুলি  উচ্চ-ঝুঁকিপূর্ণ  পরিবর্তন  হিসেবে  বিবেচিত  হওয়া  উচিত ·  দীর্ঘমেয়াদী  স্মৃতি  অবশ্যই  অনুসরণযোগ্য  পদ্ধতি  (লিখনকারী,  সময়,  অনুমোদিত  কি  না)  ধারণ  করবে ·  অস্পষ্ট  নির্দেশগুলি  স্বয়ংক্রিয়ভাবে  ঝুঁকি-স্তর  উন্নয়ন  এবং  দ্বিতীয়-পর্যায়  যাচাইকরণ  ট্রিগার  করবে ·  দীর্ঘমেয়াদী  স্মৃতি  প্রকৃতপক্ষে  অনুমোদন  পদ্ধতির  পরিবর্তে  ব্যবহার  করা  যাবে  না দলটি  জোর  দিয়ে  বলছে,  “AI  এজেন্ট  স্মৃতি  সিস템”-কে  একটি  সম্ভাব্য  আক্রমণ-পৃষ্ঠ (attack surface)  হিসেবে  গণনা  করা  উচিত,  এবং  এটি  একটি  বিশেষজ্ঞ-নিরাপত্তা  ফ্রেমওয়ার্ক-এর  মধ্যে  সীমাবদ্ধ  ও  অডিট  করা  উচিত।