OpenAI ने ChatGPT के लिए एक नया फीचर, Lockdown Mode लॉन्च किया है, जो प्रॉम्प्ट इंजेक्शन हमलों के खिलाफ केंद्रित है। यह फीचर संवेदनशील डेटा को संभालने वाले उपयोगकर्ताओं और संस्थाओं के लिए है, जिसका उद्देश्य डेटा लीक के जोखिम को कम करना है।
कुछ नेटवर्क क्षमताएँ बंद करें
सक्षम होने के बाद, ChatGPT रियल-टाइम वेब ब्राउज़िंग नहीं कर सकता है और केवल कैश किए गए कंटेंट तक ही पहुँच सकता है। वेब पेज की छवियों की खोज और प्रदर्शन बंद हो जाएगा, लेकिन चित्र उत्पादन अभी भी उपयोग किया जा सकता है।
डीप रिसर्च और एजेंट मोड सीमित हैं
OpenAI इस मोड में deep research और agent mode को भी बंद कर देगा। कंपनी का कहना है कि इससे वेबसाइट, फाइलों आदि में छिपे दुरुपयोगकारी निर्देशों के कारण मॉडल के व्यवहार में विकृति कम होगी।
अभी भी जोखिम को पूरी तरह से नहीं खत्म किया जा सकता
OpenAI ने यह भी चेतावनी दी कि भले ही Lockdown Mode सक्षम हो, ChatGPT अभी भी प्रॉम्प्ट इंजेक्शन के प्रभाव में आ सकता है। उदाहरण के लिए, कैश किए गए वेब पेज कंटेंट या अपलोड किए गए फाइल्स में अभी भी दुर्भावनापूर्ण निर्देश शामिल हो सकते हैं, जिससे उत्तरों की सटीकता प्रभावित हो सकती है।
अतिरिक्त जानकारी: वर्तमान में यह सुविधा ChatGPT Business स्व-सेवा खातों और योग्य व्यक्तिगत खातों के लिए क्रमिक रूप से उपलब्ध कराई जा रही है।