ChainCatcher के अनुसार, GoPlus Security टीम ने अपने AgentGuard AI प्रोजेक्ट में एक नया हमला तरीका उजागर किया है: "इतिहास की स्मृति संक्रमण (memory poisoning)" के माध्यम से AI एजेंट को अनधिकृत संवेदनशील कार्रवाइयाँ करने के लिए प्रेरित करना। यह हमला पारंपरिक दुर्बलताओं या दुर्भावनापूर्ण कोड पर निर्भर नहीं करता, बल्कि AI एजेंट की दीर्घकालिक स्मृति तंत्र का दुरुपयोग करता है। उदाहरण के लिए, हमलावर पहले एजेंट को "पसंद" याद रखने के लिए प्रेरित करता है, जैसे "आमतौर पर विवाद का इंतजार करने के बजाय सक्रिय रिफंड प्राथमिकता दें", और बाद में "सामान्य प्रक्रिया के अनुसार संभालें" या "पिछले तरीके से करें" जैसे अस्पष्ट निर्देशों का उपयोग करके स्वचालित धन संचालन को ट्रिगर करता है। GoPlus का कहना है कि इस समस्या की मुख्य बात यह है कि AI एजेंट "इतिहास की पसंद" को अधिकृति के आधार के रूप में गलती से मान लेता है, जिससे रिफंड, हस्तांतरण, संरचना संशोधन आदि कार्रवाइयों में धन की हानि या सुरक्षा घटनाएँ हो सकती हैं। इस समस्या के समाधान के लिए, टीम ने कई सुरक्षा सुझाव प्रस्तुत किए हैं, जिनमें शामिल हैं: · रिफंड, हस्तांतरण, हटाने या संवेदनशील संरचना से संबंधित कार्रवाइयों के लिए वर्तमान सत्र में स्पष्ट पुष्टि आवश्यक है · "आदत", "आमतौर पर", "वैसे ही" जैसे स्मृति-आधारित निर्देशों को उच्च-जोखिम स्थिति परिवर्तन माना जाना चाहिए · दीर्घकालिक स्मृति में पीछे की पहचान (लेखक, समय, क्या पुष्टि की गई) होनी चाहिए · अस्पष्ट निर्देशों को स्वचालित रूप से जोखिम स्तर में वृद्धि करनी चाहिए और द्वितीयक पुष्टि को ट्रिगर करना चाहिए · दीर्घकालिक स्मृति कभी भी वास्तविक समय प्राधिकरण प्रक्रिया का स्थान नहीं ले सकती। टीम परोक्ष महत्वपूर्ण है कि "AI एजेंट स्मृति प्रणाली" को संभावित हमले के पृष्ठ के रूप में माना जाए, और इसे विशेष सुरक्षा संदर्भ के माध्यम से सीमित किया जाए।
नया AI एजेंट सुरक्षा जोखिम: मेमोरी पॉइजनिंग अनधिकृत फंड संचालन को ट्रिगर कर सकती है
Chaincatcherसाझा करें
सारांश
गोप्लस सुरक्षा टीम द्वारा अपने एजेंटगार्ड प्रोजेक्ट में एक नया एआई खतरा उजागर किए जाने के बाद, जोखिम प्रबंधन की चिंताएँ बढ़ गई हैं। हमलावर मेमोरी पॉइजनिंग का उपयोग करके एआई एजेंट्स को अनधिकृत फंड स्थानांतरण करने के लिए प्रेरित कर सकते हैं। प्राथमिकता-आधारित स्मृतियाँ स्थापित करके, हमलावर बाद में अस्पष्ट आदेशों के साथ कार्रवाई को ट्रिगर करते हैं। मुख्य समस्या यह है कि एजेंट स्मृति प्रविष्टियों को अधिकृति के रूप में भूल जाते हैं, जिससे स्वचालित व्यापार में जोखिम-से-लाभ के अनुपात के मूल्यांकन में विक्षेप हो सकता है। जोखिम को कम करने के लिए, गोप्लस सुझाव देता है कि संवेदनशील कार्रवाइयों के लिए स्पष्ट स्वीकृति आवश्यक हो, स्मृति-आधारित इनपुट को उच्च-जोखिम माना जाए, और सभी दीर्घकालिक स्मृति प्रविष्टियों को ट्रेस करने योग्य बनाया जाए। अस्पष्ट निर्देशों को उच्च जोखिम स्तर होना चाहिए, और वास्तविक समय स्वीकृति को संग्रहीत प्राथमिकताओं से प्रतिस्थापित नहीं किया जाना चाहिए।
स्रोत:मूल दिखाएं
डिस्क्लेमर: इस पेज पर दी गई जानकारी थर्ड पार्टीज़ से प्राप्त की गई हो सकती है और यह जरूरी नहीं कि KuCoin के विचारों या राय को दर्शाती हो। यह सामग्री केवल सामान्य सूचनात्मक उद्देश्यों के लिए प्रदान की गई है, किसी भी प्रकार के प्रस्तुतीकरण या वारंटी के बिना, न ही इसे वित्तीय या निवेश सलाह के रूप में माना जाएगा। KuCoin किसी भी त्रुटि या चूक के लिए या इस जानकारी के इस्तेमाल से होने वाले किसी भी नतीजे के लिए उत्तरदायी नहीं होगा।
डिजिटल संपत्तियों में निवेश जोखिम भरा हो सकता है। कृपया अपनी वित्तीय परिस्थितियों के आधार पर किसी प्रोडक्ट के जोखिमों और अपनी जोखिम सहनशीलता का सावधानीपूर्वक मूल्यांकन करें। अधिक जानकारी के लिए, कृपया हमारे उपयोग के नियम और जोखिम प्रकटीकरण देखें।