IT होम 20 अक्टूबर की समाचार, माइक्रोसॉफ्ट ने स्थानीय समय के सोमवार को कई नई सुरक्षा सुविधाएँ लॉन्च कीं, जो उद्यमों को बढ़ते हुए एजेंटों से होने वाले सुरक्षा खतरों से बचाने के लिए डिज़ाइन की गई हैं। इस उत्पाद के लॉन्च के समय, माइक्रोसॉफ्ट उद्यमों को कृत्रिम बुद्धिमत्ता और एजेंट्स से जुड़े विभिन्न जोखिमों के बारे में लगातार चेतावनी दे रहा है।
IT होम ने ध्यान दिया कि इस नए फीचर में सबसे अधिक ध्यान आकर्षित करने वाला गार्डियन एजेंट्स (Guardian Agents) है, जो कंपनी के अंदर उपयोग किए जा रहे विभिन्न AI एजेंट्स की निगरानी के लिए उपयोग किया जाता है। गार्डियन एजेंट्स परसेप्शन प्रोजेक्ट (Project Perception) का हिस्सा है, जो माइक्रोसॉफ्ट द्वारा जून में लॉन्च किया गया था।
परिकल्पना प्रोजेक्ट, माइथोस, फेबल जैसे शक्तिशाली हैकिंग मॉडल्स और OpenAI के सुरक्षा वल्कन स्कैनर डे ब्रेक के लिए माइक्रोसॉफ्ट द्वारा विकसित प्रतिक्रिया है। परिकल्पना प्रोजेक्ट ने शुरुआत में तीन प्रकार के एजेंट्स लॉन्च किए: लाल टीम एजेंट्स, जो हैकर की भूमिका निभाकर हमला करते हैं; नीली टीम एजेंट्स, जो लाल टीम के हमलों का पता लगाते हैं और दुर्बलताओं का मूल्यांकन करते हैं; और हरी टीम एजेंट्स, जो दुर्बलताओं को ठीक करने के लिए विशेष रूप से डिज़ाइन किए गए हैं।
इस उत्पाद के मूल डिज़ाइन की पूर्वधारण यह थी कि AI हैकर्स कंपनी के बाहर से आएंगे। हालाँकि, हाल के समय में, माइक्रोसॉफ्ट के सीईओ सत्या नडेला ने चेतावनी दी है कि AI स्तर पर खतरे का स्रोत संभवतः कंपनी के द्वारा स्वयं तैनात और भुगतान किए गए एजेंट ही हो सकते हैं, जो एक अनियंत्रित आंतरिक कर्मचारी की तरह कार्य करते हैं, जिसे सामान्यतः "आंतरिक खतरा" कहा जाता है।
इस महीने के शुरुआत में, नडेला ने अपने व्यक्तिगत ब्लॉग में चेतावनी दी: यह समय है कि हम AI मॉडल आपूर्तिकर्ताओं पर विश्वास करना बंद कर दें, भले ही उनके स्वयं के स्वतंत्र रूप से कार्य करने वाले एजेंट उत्पादों के लिए सुरक्षा की गारंटी दी जाए। उन्होंने सुझाव दिया कि उद्यमों को स्वतंत्र प्रणालियाँ बनानी चाहिए, जो AI प्रयोगशालाओं के नियंत्रण से परे हों, ताकि इन AI प्रयोगशालाओं द्वारा लॉन्च किए गए एजेंट्स की निगरानी और नियंत्रण किया जा सके।
उन्होंने लिखा: "हम ऐसे जटिल एजेंट सिस्टम और मॉडल तैनात कर रहे हैं, जो हमारे सबसे संवेदनशील डेटा तक पहुँच सकते हैं और हमारे लिए महत्वपूर्ण व्यावसायिक कार्रवाइयाँ कर सकते हैं! हम एजेंट्स के द्वारा हमारे लिए कार्य करने की जिम्मेदारी को बाहर सौंप नहीं सकते। मॉडल आपूर्तिकर्ता द्वारा दिए गए आश्वासन, हमारी इस जिम्मेदारी को मुक्त नहीं कर सकते... अर्थात, हमें एजेंट क्षमता की आपूर्ति और उस पर नियंत्रण के अधिकार को अलग करना होगा।"
डिफेंडर एजेंट के परिचय के दौरान, माइक्रोसॉफ्ट सिक्योरिटी बिजनेस लीड हायेटे गैलोट ने और अधिक सीधे शब्दों में कहा।
उसने लिखा: "दुर्भाग्यवश, आगे के मॉडल, चाहे वे कहीं से भी आए हों, पूरी तरह से विश्वसनीय नहीं हैं।" उसने यह भी जोड़ा कि इसका कारण मॉडल में दुर्भावना होना या हैकर्स द्वारा आसानी से हमले का शिकार होना नहीं है, बल्कि इसका व्यवहार अप्रत्याशित होना है। मॉडल का प्रशिक्षण लक्ष्य कार्य पूरा करना है, न कि "संगठनात्मक नियमों या निर्णय मानदंडों" का पालन करना।
In addition, these agents often hold high-level permissions and can access various data and tools, which can cause serious damage if they go out of control.
माइक्रोसॉफ्ट द्वारा प्रस्तुत यह समाधान अप्रत्याशित है और अपने व्यावसायिक विचारों से भी भरा हुआ है। अप्रत्याशित बात यह है कि माइक्रोसॉफ्ट का OpenAI और Anthropic के साथ घनिष्ठ संबंध है और दोनों कंपनियों में इसका निवेश है। OpenAI माइक्रोसॉफ्ट के क्लाउड बिजनेस का एक बड़ा ग्राहक भी है, और माइक्रोसॉफ्ट के पास बड़े मॉडल विकसित करने के लिए एक AI प्रयोगशाला भी है। अर्थात, माइक्रोसॉफ्ट अपने ग्राहकों को अपने कुछ व्यावसायिक साझेदारों के उत्पादों के प्रति सतर्क कर रहा है।
व्यावसायिक हित के दृष्टिकोण से, माइक्रोसॉफ्ट चाहती है कि उद्यम अपने क्लाउड सर्विस प्रोवाइडर से एजेंट सुरक्षा उत्पाद खरीदें, न कि Anthropic और OpenAI से। हित संघर्ष को छोड़कर, यह तर्क स्वयं ठीक है: एजेंट व्यवहार को मॉनिटर करने वाला सॉफ्टवेयर, एजेंट के प्रदाता से स्वतंत्र होना चाहिए, जैसे कि ऑडिट संस्थाएँ ऑडिट किए जाने वाले संगठन से स्वतंत्र होती हैं।
नादेला के शब्दों में: "हमें बुद्धिमत्ता की आपूर्ति और उस पर नियंत्रण के अधिकार को अलग करने की आवश्यकता है।"
माइक्रोसॉफ्ट इस व्यावसायिक अवसर को कई तरीकों से पकड़ रहा है। डिफेंडर एजेंट के अलावा, माइक्रोसॉफ्ट डिफेंडर उत्पाद में एजेंट डिटेक्शन सुविधा जोड़ी है, जो कर्मचारियों द्वारा कार्यस्थल में लाए गए 60 से अधिक एजेंट्स की पहचान कर सकती है, जिसमें Claude Code, Codex और OpenClaw शामिल हैं। उत्पाद में यह भी सुविधा जोड़ी गई है कि एजेंट्स को डेटा और सिस्टम तक पहुंच की अनुमति सीमित की जा सके और कार्य के आधार पर एजेंट की अनुमतियाँ डायनामिक रूप से समायोजित की जा सकें। यदि कोई एजेंट उच्च-जोखिम वाली क्रिया करने वाला है, तो सिस्टम मानवीय स्वीकृति की मांग करेगा।
इस विचार कि एजेंट को अविश्वसनीय आंतरिक खतरा माना जाए, वह पूरे उद्योग में धीरे-धीरे सहमति बन रहा है।
माइक्रोसॉफ्ट, जिसे अब तक 100 से अधिक टेक कंपनियों द्वारा समर्थित किया गया है, नवीन ओपन एजेंट सेफ्टी प्लेटफॉर्म का संस्थापक सदस्य है। यह प्लेटफॉर्म एजेंट्स को सुरक्षित वातावरण में अलग करता है और हार्डवेयर-आधारित मॉनिटरिंग के माध्यम से असामान्य व्यवहार को रोकता है, जिसका कार्य आपातकालीन स्टॉप स्विच के समान है। पहले, माइक्रोसॉफ्ट ने एजेंट्स के लिए डिज़ाइन की गई नई सरफेस लैपटॉप उल्ट्रा लैपटॉप जारी की, जिसमें नवीडिया का चिप और एजेंट सेफ्टी कंट्रोल मॉड्यूल शामिल है।