F-Secure द्वारा AI द्वारा उपभोक्ताओं को नुकसान पहुंचाने के 26 तरीकों और इन जोखिमों को रोकने के तरीकों की पहचान की गई है
नया AI क्षति वर्गीकरण यह ट्रैक करता है कि क्षति AI प्रणालियों में कैसे प्रसारित होती है, जिसमें भ्रामक चैटबॉट उत्तरों से लेकर दुर्भावनापूर्ण स्वायत्त एजेंट तक शामिल हैं, और यह पहचानता है कि रक्षा उपाय किन बिंदुओं पर हस्तक्षेप कर सकते हैं।
लॉस एंजिल्स, 10 नवंबर (रॉयटर्स) /PRNewswire/ -- आजकल कृत्रिम बुद्धिमत्ता हमारे खोज, संचार, निर्णय लेने और डिजिटल जीवन के प्रबंधन के तरीके को प्रभावित कर रही है। लेकिन जब यह गलती करती है, तो यह लोगों को कैसे नुकसान पहुंचाती है? F-Secure द्वारा हाल ही में जारी AI Harms Taxonomy 26 अलग-अलग उपभोक्ता हानियों का मानचित्रण करता है, जो प्रत्येक हानि के उपभोक्ता तक पहुंचने के तरीके का पता लगाता है। परिणामस्वरूप, स्पष्ट रूप से दर्शाया गया है कि सुरक्षा उपाय कहाँ हस्तक्षेप कर सकते हैं और कौन सबसे अधिक सक्षम है कि मदद प्रदान करे।
यह वर्गीकरण पद्धति F-Secure के मुख्य खतरा सूचना शोधकर्ता डॉ. मेगन स्क्वायर द्वारा विकसित की गई है, जिसका उद्देश्य AI जोखिम चर्चा में एक अंधबिंदु को समाप्त करना है। अधिकांश ढांचे केवल उन स्थानों की सूची बनाते हैं जहां कुछ गलत हो सकता है, लेकिन इन क्षतियों को उन प्रणालियों और कंपनियों से जोड़ने का प्रयास नहीं करते जो उन्हें रोक सकती हैं। F-Secure का शोध आगे बढ़ता है और AI-संचालित खतरों और उनके उपभोक्ताओं पर पड़ने वाले प्रभावों के बीच की प्रत्येक परत को स्पष्ट करता है, और इसके आधार पर यह बताता है कि सुरक्षा कहाँ स्थापित की जानी चाहिए।
डॉ. स्क्वायर ने कहा: "जैसे-जैसे AI प्रणालियों की क्षमता बढ़ती जा रही है, उनकी गलतियों के परिणाम केवल एक खराब उत्तर देने से कहीं अधिक हो सकते हैं। इन प्रणालियों को विकसित करने वालों की जिम्मेदारी है कि वे समझें कि ये प्रणालियाँ कैसे विफल हो सकती हैं, विफलता के समय किसे नुकसान पहुँचेगा, और नुकसान होने से पहले सुरक्षा उपाय लगाएँ।"
यह वर्गीकरण प्रदर्शित करता है कि जोखिम स्वयं बदल रहा है। पिछले समय में, अपराधी सीधे किसी व्यक्ति को निशाना बनाते थे, लेकिन अब AI मध्यस्थ के रूप में मौजूद है, जिससे नए प्रतिभागी और नए तरीकों से गलतियाँ होने की संभावना बढ़ गई है। किसी और के लिए कार्य करने वाला सहायक नुकसान पहुँचाने के लिए दुरुपयोग किया जा सकता है, और चैटबॉट भी उपयोगकर्ताओं को आत्मविश्वास से भ्रमित कर सकते हैं। अधिक नीचे, समस्याएँ अक्सर AI कैसे निर्देशों और स्मृति को संभालता है, या यह किन अन्य सेवाओं से जुड़ा हुआ है, इस पर शुरू होती हैं।
यह अध्ययन वर्तमान में 26 प्रकार के क्षति को पांच श्रेणियों के संबंधों और 19 स्तरों के मध्यस्थता में वर्गीकृत करता है और विभिन्न चरणों के जोखिमों का सामना करने के लिए 24 रक्षात्मक उपायों का डिज़ाइन करता है। उदाहरणों में AI द्वारा उत्पन्न आवाज़ और वीडियो का छल, प्रॉक्सी द्वारा हानिकारक वित्तीय निर्णय लेना, व्यक्तिगत जानकारी का रिसाव, या पुराने संदर्भ में कार्रवाई करना शामिल हैं। अध्ययन इस प्रकार के हमले की भी जांच करता है: दुर्भावनापूर्ण निर्देश AI प्रणाली द्वारा संसाधित सामग्री में छिपाए जाते हैं, जिससे प्रॉक्सी के व्यवहार को प्रभावित किया जा सकता है, या चैटबॉट द्वारा उपयोगकर्ता को क्या कहा जाए, इसे प्रभावित किया जा सकता है।
इस ढांचे की प्रमुख खोजों में से एक यह है कि AI को हानि पहुंचाने से रोकने की जिम्मेदारी कई पार्टियों के बीच वितरित है। कुछ जोखिमों को व्यक्तिगत उपकरणों पर सुरक्षा सॉफ्टवेयर द्वारा संभाला जा सकता है; अन्य को अधिक ऊपरी स्तर पर, AI उत्पादों और उनकी नींव की प्रणालियों को विकसित करने वाली कंपनियों द्वारा सुलझाया जाना चाहिए, जिसमें AI कैसे जानकारी को स्मृति में रखता है और यह किन अन्य सेवाओं से जुड़ा हुआ है, शामिल है। यह स्पष्ट करना कि कौन से पहलू किसकी जिम्मेदारी हैं, इस बात को स्पष्ट करने में मदद करता है कि सुरक्षा कहाँ स्थापित की जानी चाहिए और इसे किसे बनाना होगा। यह उस विचार को कमजोर करता है कि लोग केवल संदिग्ध सामग्री की पहचान करके, या AI द्वारा प्रदान की गई जानकारी को बार-बार सत्यापित करके, अकेले ही सुरक्षित रह सकते हैं।
जब AI "जानकारी उत्पन्न करने" से बदलकर "जानकारी के आधार पर कार्रवाई करने" लगता है, तो जिम्मेदारी किसकी होगी, यह प्रश्न अधिक तीव्र हो जाता है। चैटबॉट गलत जवाब दे सकता है, जिससे उपयोगकर्ता भ्रमित हो सकते हैं, लेकिन कम से कम उपयोगकर्ता इस बातचीत में शामिल होते हैं; जबकि एक ऐसा एजेंट, जो उपयोगकर्ता के खाते और उससे जुड़ी सेवाओं तक पहुँच सकता है, बिना इस तरह की पुष्टि के वास्तविक परिणाम पैदा कर सकता है। सुरक्षा उपायों को इन प्रणालियों के वास्तविक कार्य के आधार पर बनाया जाना चाहिए, और इसके लिए सबसे पहले चैटबॉट और एजेंट के बीच के अंतर को समझना होगा।
AI एजेंट के लिए सुरक्षा बनाएं
यह अध्ययन F-Secure के एआई युग में विश्वास स्थापित करने के व्यापक प्रयास का एक हिस्सा है। F-Secure Trust, जिसे Quantum AI Lab QuTwo के साथ अपनी रणनीतिक साझेदारी के साथ घोषित किया गया है, एआई एजेंट जितने अधिक लोगों की ओर से कार्य करने लगते हैं, उतने ही उपयोगकर्ताओं की सुरक्षा के लिए कंपनी का प्रयास है। TrustGuard का उद्देश्य एआई अंतर्क्रियाओं के दौरान लोगों की सुरक्षा में मदद करना है, जबकि TrustPath का उद्देश्य उनकी खोज से लेकर प्राप्ति तक की डिजिटल यात्रा की सुरक्षा करना है। AI Harms Taxonomy इन प्रयासों के लिए शोधात्मक आधार प्रदान करता है, जो सुरक्षा उपायों को सामना करने के लिए आवश्यक जोखिमों को स्पष्ट करता है, और स्पष्ट रूप से दर्शाता है कि प्रभावी सुरक्षा के लिए एआई प्रणालियों को बनाने और संचालित करने वाली कंपनियों पर भी निर्भर करती है।
एआई युग के लिए मानव केंद्रित अनुसंधान
आज के डिजिटल खतरे केवल धोखाधड़ी से अधिक हैं। F-Secure की Illuminate Research टीम लोगों और तकनीक के वास्तविक बातचीत का अध्ययन करती है, और AI युग में विश्वास, धोखा और ऑनलाइन लचीलेपन की जटिल वास्तविकताओं को समझती है। AI Harms Taxonomy Illuminate Research Hub पर उपलब्ध है।
F-Secure के बारे में
F-Secure एक मानव-केंद्रित, AI-संचालित उपभोक्ता साइबर सुरक्षा अनुभव कंपनी है, जिसके पास डिजिटल खतरों से निपटने का 38 वर्षों का अनुभव है। कंपनी डिजिटल सेवा प्रदाताओं को विश्वास को उच्च मूल्य वाली वृद्धि इंजन में बदलने में मदद करती है—एक AI-संचालित धोखेबाजी से भरे दुनिया में, अपने ग्राहकों की सुरक्षा करते हुए और उन्हें बेहतर डिजिटल जीवन जीने में सहायता करते हुए। कंपनी प्रति वर्ष अरबों डिजिटल इंटरैक्शन की सुरक्षा करती है, दुनिया भर में करोड़ों उपभोक्ताओं की सुरक्षा करती है, और साझेदारों के लिए 100 अरब डॉलर से अधिक मूल्य पैदा करती है, जिससे साबित हुई मापदंडों पर व्यापक प्रभाव पड़ता है।
संपर्क समाचार:
- मेगन सॉयर, वरिष्ठ प्रचार प्रबंधक, [email protected]
- जोएल लैटो, धमकी परामर्शदाता और EMEA प्रेस प्रबंधक, [email protected]
उपरोक्त जानकारी Cision द्वारा प्रदान की गई है: http://news.cision.com

