क्या एक एआई एजेंट एक आंतरिक खतरा बन सकता है? हम आमतौर पर साइबर सुरक्षा खतरों को कंपनी के सिस्टम में घुसने, जानकारी चुराने या क्षति पहुंचाने की कोशिश करने वाले हैकर्स के रूप में सोचते हैं। लेकिन एक नया संभावित खतरा है जिसके बारे में सोचने लायक है। अगर खतरा पहले से ही सिस्टम के अंदर है? एआई एजेंट्स के विकास के बारे में सोचिए। वे अब केवल प्रश्नों के उत्तर देने तक सीमित नहीं हैं। उन्हें जो टूल्स और अनुमतियाँ दी जाती हैं, उनके आधार पर, वे ईमेल्स तक पहुँच सकते हैं, कंपनी के दस्तावेज़ पढ़ सकते हैं, डेटाबेस के साथ बातचीत कर सकते हैं, कोड निष्पादित कर सकते हैं, और स्वतंत्र रूप से कार्य कर सकते हैं। अब कल्पना कीजिए कि कोई कंपनी अपने आंतरिक सिस्टम्स तक पहुँच प्रदान करती है, ताकि दैनिक संचालन आसान हो सके। सब कुछ पूरी तरह से सही काम करता है, जब तक कि कुछ गलत नहीं हो जाता। शायद एजेंट को किसी दस्तावेज़ में छिपा हुआ दुष्ट निर्देश मिलता है। शायद यह किसी कार्य को गलत समझता है और गुप्त जानकारी को गलत स्थान पर भेज देता है। या शायद कोई उससे जुड़े किसी टूल या खाते को संक्रमित कर देता है। अचानक, वही एआई एजेंट, जो उत्पादकता में सुधार करने के लिए था, एक संभावित सुरक्षा जोखिम बन जाता है। और यही है जो इसे विशेष रूप से दिलचस्प बनाता है: एजेंट को सिस्टम में प्रवेश करने के लिए हैक करने की आवश्यकता नहीं होती। इसके पास पहले से ही मान्य पहुँच हो सकती है। इसीलिए सुरक्षा विशेषज्ञों को पारंपरिक साइबर सुरक्षा के पार सोचने की आवश्यकता है। एआई एजेंट्स को संवेदनशील सिस्टम्स तक पहुँच प्रदान करने के लिएगंभीर नियंत्रणों कीआवश्यकता होती है। उन्हें सीमितअनुमतियाँ,गतिविधि मॉनिटरिंग,संवेदनशील क्रियाओं के लिए मानवीय मंजूरी,औरउनके करने के लिएअनुमति प्रदान कीगईसीमाओंकीआवश्यकता होती है। इसकेअलावा,प्रॉम्प्टइंजेक्शनकीसमस्याभीहै,जहाँबाहरीसामग्रीमेंछिपाएगएदुष्टनिर्देशएआईएजेंटकोइसबातकरनेकेलिएप्रभावितकरसकतेहैंजोउन्हेंमूलरूपसेकरनेकीअनुमतिनहींथी। बेशक,एआईएजेंटस्वयंदुष्टनहींहोते।लेकिनवहगलतियाँकरसकतेहैं,दुष्टप्रभावसेप्रभावितहोसकतेहैं,याउनकीपहुँचकादुरुपयोगहोसकताहै। औरजैसेकंपनियाँइनप्रणालियोंकोअधिकज़िम्मेदारीदेतीहैं,उससेउनअसफलताओंकेपरिणामबहुतबड़ेहोसकतेहैं। हमएकऐसेयुगमेंप्रवेशकररहेहैंजहाँकंपनियोंकोबसइनअधिकृतलोगोंसेअपनेसिस्टम्सकीसुरक्षाकरनीनहींहोगी। उन्हेंअपनेद्वाराअधिकृतऔरअपनेअंदरचलनेवालीबुद्धिमानप्रणालियोंद्वाराउत्पन्नखतरोंकोभीप्रबंधितकरनेकीआवश्यकताहोगी। इसलिएयहमेराप्रश्नहै: अगरएआईएजेंटआपकेईमेल,फ़ाइल,डेटाबेसऔरआंतरिकटूल्सतकपहुँचरखताहै,तोआपउसपरमनुष्य-अवलोकनकेबिना-चलनेकेलिएवास्तवमेंकितनीविश्वासघटा? यहएकऐसीबातहैजिसपरसोचनेकीआवश्यकताहै। 👀
Seyi MARTINSसाझा करें

स्रोत:मूल दिखाएं
डिस्क्लेमर: इस पेज पर दी गई जानकारी थर्ड पार्टीज़ से प्राप्त की गई हो सकती है और यह जरूरी नहीं कि KuCoin के विचारों या राय को दर्शाती हो। यह सामग्री केवल सामान्य सूचनात्मक उद्देश्यों के लिए प्रदान की गई है, किसी भी प्रकार के प्रस्तुतीकरण या वारंटी के बिना, न ही इसे वित्तीय या निवेश सलाह के रूप में माना जाएगा। KuCoin किसी भी त्रुटि या चूक के लिए या इस जानकारी के इस्तेमाल से होने वाले किसी भी नतीजे के लिए उत्तरदायी नहीं होगा।
डिजिटल संपत्तियों में निवेश जोखिम भरा हो सकता है। कृपया अपनी वित्तीय परिस्थितियों के आधार पर किसी प्रोडक्ट के जोखिमों और अपनी जोखिम सहनशीलता का सावधानीपूर्वक मूल्यांकन करें। अधिक जानकारी के लिए, कृपया हमारे उपयोग के नियम और जोखिम प्रकटीकरण देखें।
