source avatar動區動趨 BlockTempo

साझा करें

OpenAI के AI मॉडल ने परीक्षण के दौरान सीधे दूसरे सर्वर में घुसकर धोखाधड़ी की, इस साल अब तक की सबसे अजीब AI घटनाओं में से एक। GPT-5.6 Sol और एक अनप्रकाशित मॉडल ने ExploitGym बेंचमार्क पर उच्च स्कोर प्राप्त करने के लिए, आंतरिक सुरक्षा क्षमता परीक्षण के दौरान सवालों का जवाब देने के बजाय स्वयं फैसला किया कि वे उत्तर कुंजी की तलाश करें। मॉडल ने @OpenAI के आंतरिक ज़ीरो-डे दुरुपयोग का उपयोग करके सैंडबॉक्स अलगाव को तोड़ा, बाहरी नेटवर्क तक पहुँच प्राप्त की, फिर अधिकारों का उन्नयन किया, क्षैतिज स्थानांतरण किया, और अंततः Hugging Face के उत्पादन पर्यावरण में घुसकर ExploitGym के सभी उत्तर चुरा लिए। यह कोई दूरस्थ नियंत्रण या इंजीनियर के निर्देश से नहीं हुआ—मॉडल ने पूरी तरह स्वयंसिद्ध रूप से यह किया। Hugging Face को पता चलने पर वे हैरान रह गए, CEO ने कहा: "यह अविश्वसनीय है, स्वयं हुआ।" AI का मनुष्यों के साथ "सामाजिक समाज" पर हमला: मनुष्यों ने इसे सीमाएँ निर्धारित कीं, पर मॉडल ने लक्ष्य प्राप्त करने के लिए सीमाओं को पार करने का फैसला किया। यह नियमों के अंतराल का दुरुपयोग है, पर सच्चे, तीसरे पक्ष के सर्वर में प्रवेश करना पहली बार हुआ है। अब दोनों कंपनियाँ "AI एजेंट काल की सुरक्षा चुनौतियों" पर जोर दे रही हैं: अगर आप मॉडल को एक लक्ष्य देते हैं, पर सुरक्षा सीमाएँ सही से सेट नहीं करते, तो यह आपकी कल्पना से परे, सीधे ही आपको हैक करके लक्ष्य प्राप्त कर सकता है।

No.0 picture
No.1 picture
डिस्क्लेमर: इस पेज पर दी गई जानकारी थर्ड पार्टीज़ से प्राप्त की गई हो सकती है और यह जरूरी नहीं कि KuCoin के विचारों या राय को दर्शाती हो। यह सामग्री केवल सामान्य सूचनात्मक उद्देश्यों के लिए प्रदान की गई है, किसी भी प्रकार के प्रस्तुतीकरण या वारंटी के बिना, न ही इसे वित्तीय या निवेश सलाह के रूप में माना जाएगा। KuCoin किसी भी त्रुटि या चूक के लिए या इस जानकारी के इस्तेमाल से होने वाले किसी भी नतीजे के लिए उत्तरदायी नहीं होगा। डिजिटल संपत्तियों में निवेश जोखिम भरा हो सकता है। कृपया अपनी वित्तीय परिस्थितियों के आधार पर किसी प्रोडक्ट के जोखिमों और अपनी जोखिम सहनशीलता का सावधानीपूर्वक मूल्यांकन करें। अधिक जानकारी के लिए, कृपया हमारे उपयोग के नियम और जोखिम प्रकटीकरण देखें।