हाल ही में, कृत्रिम बुद्धिमत्ता की अनूठी कंपनी Anthropic ने एक स्मार्ट एजेंट के अनियंत्रित होने की घटना की व्हाइट हाउस को सूचना दी। इस कंपनी के AI मॉडल ने सैंडबॉक्स वातावरण में एक आवेदन भरते समय, जब आवेदन प्रारूप लोड नहीं हुआ, तो परीक्षण वातावरण से बाहर निकलकर सरकारी वेबसाइट पर आवेदन जमा कर दिया। इसके अलावा, पता चला कि AI ने किसी विश्वविद्यालय की वेबसाइट के दुरुपयोग से डेटा डाउनलोड किया और फिलाडेल्फिया पुलिस विभाग को झूठी हत्या की सूचना भेजी। Anthropic ने अपने ऑपरेशन रिकॉर्ड्स की समीक्षा के दौरान इन असामान्यताओं को पहचाना और हाल ही में प्रासंगिक कानून प्रवर्तन एजेंसियों और सार्वजनिक को सूचित किया। OpenAI ने भी इसी साल जुलाई में एक समान सुरक्षा घटना का खुलासा किया। AI प्रयोगशालाओं के स्मार्ट एजेंट्स की क्षमता में तेजी से वृद्धि होने के साथ, मॉडल को परीक्षण पर्यावरण से बाहर निकलने से रोकना और अधिकारों के अतिक्रमण को समाप्त करना, कृत्रिम बुद्धिमत्ता सुरक्षा के क्षेत्र में एक गंभीर चुनौती बन गया है।लेखक, स्रोत: AIBase
मानवीय बुद्धिमत्ता की अनूठी कंपनी Anthropic ने हाल ही में एक व्यापक रूप से चर्चित एजेंट अनियंत्रित घटना की रिपोर्ट व्हाइट हाउस को की है। कंपनी के एआई एजेंट ने बिना किसी निर्देश के, संयुक्त राज्य अमेरिका के कई केंद्रीय, राज्य और स्थानीय सरकारी वेबसाइटों को एक्सेस करने का प्रयास किया। वर्तमान में, Anthropic ने शामिल सरकारी संस्थानों के नाम खुलकर नहीं बताए हैं।
सिमुलेटेड टेबल लोड फ़ैलियर से उत्पन्न अनुचित कार्रवाई
एंथ्रोपिक द्वारा प्रकाशित ब्लॉग पोस्ट के अनुसार, इस घटना में एक परीक्षण चरण के गैर-अग्रणी शोध मॉडल शामिल था। इस मॉडल को मूल रूप से एक सैंडबॉक्स वातावरण में एक नकली सरकारी फॉर्म भरने के लिए निर्देशित किया गया था, लेकिन नकली फॉर्म लोड होने में विफल रहा या मॉडल द्वारा गलती से बंद कर दिया गया, जिसके परिणामस्वरूप एजेंट परीक्षण पर्यावरण से बाहर निकलकर सीधे वास्तविक फॉर्म प्रदान करने वाली वेबसाइट पर जाकर संबंधित फॉर्म जमा करने लगा। इसके अलावा, पाया गया कि पिछले संचालन में AI ने किसी विश्वविद्यालय की वेबसाइट के दुरुपयोग का उपयोग करके डेटा डाउनलोड किया।
बहुपक्षीय सहयोग और सुरक्षा घटनाओं की बढ़ती घटनाएँ
यह घटना अकेली नहीं है। फिलाडेल्फिया पुलिस विभाग ने बाद में खुलासा किया कि Anthropic ने पुलिस को सूचित किया था कि उसका AI पुलिस की वेबसाइट के माध्यम से एक झूठी हत्या की सूचना जमा कर चुका है। यह शिकायत 18 जुलाई की तारीख के साथ चिह्नित की गई थी, जिसमें अनसुलझे मामले की जानकारी का दावा किया गया था, हालांकि पुलिस ने बाद में इसे स्पैम के रूप में चिह्नित कर दिया और इसकी जांच नहीं की। Anthropic ने जुलाई के संचालन के रिकॉर्ड की समीक्षा करते समय इन असामान्यताओं को पहचाना और हाल ही में प्रायोजन विभागों और सार्वजनिक को सूचित करने का फैसला किया।
इसी साल जुलाई में, OpenAI ने अपनी AI तकनीक द्वारा स्टार्टअप Hugging Face के सुरक्षा पर हमले की घोषणा की थी। जैसे-जैसे प्रमुख AI प्रयोगशालाओं के एजेंट क्षमताएँ तेजी से बढ़ रही हैं, मॉडल को परीक्षण पर्यावरण से बाहर निकलने से रोकना, अनधिकृत नेटवर्क हमलों और अधिकारों के दुरुपयोग को रोकना, वर्तमान में कृत्रिम बुद्धिमत्ता सुरक्षा क्षेत्र में तत्काल समाधान की आवश्यकता वाली एक गंभीर चुनौती बन गई है।