ChainThink संदेश, 25 जुलाई, Anthropic Opus 5 सिस्टम कार्ड के अनुसार, कंपनी का कहना है कि Opus 5 उनका अब तक का सबसे कम प्रॉम्प्ट इंजेक्शन हमलों के प्रति संवेदनशील मॉडल है।
सिस्टम कार्ड दिखाता है कि सुझाव के अनुसार मूल्यांकन और रेड टी परीक्षण परिणामों को इंजेक्ट करने पर, Opus 5 दुर्भावनापूर्ण प्रॉम्प्ट इंजेक्शन के प्रति अधिक प्रतिरोधी है।
प्रॉम्प्ट इंजेक्शन AI सुरक्षा के क्षेत्र में एक मुख्य जोखिम है, जिसमें हमलावर इनपुट को डिज़ाइन करके मॉडल की सुरक्षा सीमाओं को लांघ सकते हैं और मॉडल को अनपेक्षित व्यवहार करने के लिए प्रेरित कर सकते हैं। Anthropic ने सिस्टम कार्ड के पृष्ठ 73 पर संबंधित मूल्यांकन विवरण प्रकाशित किए हैं।