Claude Opus 5 ब्राउज़र स्थितियों में प्रॉम्प्ट इंजेक्शन हमलों को रोकता है

iconKuCoinFlash
साझा करें
AI summary iconसारांश
एंथ्रोपिक ने रिपोर्ट किया कि उसका क्लॉड ऑपस 5 मॉडल ब्राउज़र परिदृश्यों में प्रॉम्प्ट इंजेक्शन हमलों के प्रति मजबूत प्रतिरोध दर्शाता है, जिसमें 129 परीक्षण मामलों में कोई सुरक्षा उल्लंघन नहीं हुआ। मॉडल ने ग्रे स्वान के बेंचमार्क में 2.0% स्कोर प्राप्त किया, जो ऑपस 4.8 (5.5%), मिथोस 5 (2.6%) और फेबल 5 (2.8%) से बेहतर है। प्रॉम्प्ट इंजेक्शन AI एजेंट्स के लिए एक प्रमुख खतरा बना हुआ है। शून्य हमला दर केवल क्लॉड कारवर्क में ऑटो मोड चालू होने पर ही देखी गई। ब्याज दर से संबंधित समाचार और बाजार के परिवर्तन इस सुरक्षा-केंद्रित अपडेट को प्रभावित नहीं करेंगे।
ME AI संदेश, डोंगचा बीटिंग द्वारा मॉनिटर किए जाने पर, Anthropic ने Claude Opus 5 सिस्टम कार्ड में उजागर किया कि यह मॉडल ब्राउज़र एजेंट स्थितियों में प्रॉम्प्ट इंजेक्शन हमलों के लिए लगभग प्रतिरोधी है, जिसमें 129 परीक्षण स्थितियों में से कोई भी सफल नहीं हुआ। यह उपलब्धि महत्वपूर्ण है, क्योंकि OpenAI ने पिछले दिसंबर में सार्वजनिक रूप से स्वीकार किया था कि प्रॉम्प्ट इंजेक्शन कभी पूरी तरह से हल नहीं किया जा सकता। सुरक्षा कंपनी Gray Swan के जनरल प्रॉम्प्ट इंजेक्शन बेंचमार्क में, Opus 5 की 15 हमलों के बाद सफलता की दर केवल 2.0% थी, जो पिछली पीढ़ी Opus 4.8 की 5.5% की तुलना में काफी बेहतर है, और Mythos 5 की 2.6% और Fable 5 की 2.8% से भी आगे है। प्रॉम्प्ट इंजेक्शन को AI एजेंट के सामने सबसे गंभीर सुरक्षा दुर्बलता माना जाता है—जिसमें हमलावर वेबपेज में छिपे हुए पाठ जैसे हस्तक्षेपित इनपुट का उपयोग करके मॉडल के निर्देशों को बाईपास करते हुए दुरुपयोगपूर्ण कार्रवाई करते हैं। शून्य हमला दर केवल Auto Mode सक्षम Claude Cowork जैसे उत्पादों में ही प्राप्त हुई है। यह उपलब्धि AI एजेंट सुरक्षा को 'निरंतर पैचिंग' से 'संरचनात्मक प्रतिरक्षा' चरण में ले जाती है। नीचे दिए गए मूल लिंक पर क्लिक करके, डोंगचा बीटिंग · Feishu AI समाचार चैनल में शामिल हों, जो 7×24 घंटे विश्वव्यापी AI हॉटस्पॉट्स और समाचारों का निरंतर मॉनिटरिंग करता है। (स्रोत: BlockBeats)
स्रोत:मूल दिखाएं
डिस्क्लेमर: इस पेज पर दी गई जानकारी थर्ड पार्टीज़ से प्राप्त की गई हो सकती है और यह जरूरी नहीं कि KuCoin के विचारों या राय को दर्शाती हो। यह सामग्री केवल सामान्य सूचनात्मक उद्देश्यों के लिए प्रदान की गई है, किसी भी प्रकार के प्रस्तुतीकरण या वारंटी के बिना, न ही इसे वित्तीय या निवेश सलाह के रूप में माना जाएगा। KuCoin किसी भी त्रुटि या चूक के लिए या इस जानकारी के इस्तेमाल से होने वाले किसी भी नतीजे के लिए उत्तरदायी नहीं होगा। डिजिटल संपत्तियों में निवेश जोखिम भरा हो सकता है। कृपया अपनी वित्तीय परिस्थितियों के आधार पर किसी प्रोडक्ट के जोखिमों और अपनी जोखिम सहनशीलता का सावधानीपूर्वक मूल्यांकन करें। अधिक जानकारी के लिए, कृपया हमारे उपयोग के नियम और जोखिम प्रकटीकरण देखें।