OpenAI द्वारा AI-जनित CSAM के साथ संघर्ष के लिए इमेज क्लासिफायर और ChatGPT चेतावनियाँ लागू की गईं

iconCryptoBriefing
साझा करें
AI summary iconसारांश
AI + क्रिप्टो समाचार तब ब्रेक हुआ जब OpenAI ने बच्चों की यौन दुर्व्यवहार सामग्री का पता लगाने के लिए उपकरण लॉन्च किए, जिसमें एक इमेज क्लासिफायर और ChatGPT चेतावनियाँ शामिल हैं। यह सिस्टम नए CSAM को पकड़ने के लिए हैश-मैचिंग और AI का उपयोग करता है। इसे नवंबर 2026 के मध्य में लॉन्च किया गया, जिसमें डेवलपर्स और कानून प्रवर्तन अधिकारियों के लिए उपकरण शामिल हैं। OpenAI ने NCMEC को अपनी खोजों की रिपोर्ट की। क्रिप्टो बाजारों के लिए नए टोकन सूचीकरण अभी भी एक प्रमुख ध्यान केंद्र है।

OpenAI ने बच्चों के यौन दुर्व्यवहार सामग्री (CSAM) के लिए एक नया सेट टूल्स की घोषणा की है। मुख्य बिंदु एक इमेज क्लासिफायर है, जिसे ऐसी सामग्री, जिसमें AI द्वारा उत्पन्न चित्र शामिल हैं, का पता लगाने के लिए बनाया गया है।

इस लॉन्च के चार भाग हैं: नया छवि वर्गीकरक, चैटजीपीटी के भीतर चेतावनियाँ और अस्थायी ब्लॉक, डेवलपर्स के लिए एक नया मार्गदर्शिका, और कानून प्रवर्तन के लिए एक सेट टूल्स। एक साथ, वे उपयोगकर्ता, निर्माता और जाँचकर्ता को कवर करते हैं।

वह जो OpenAI वास्तव में लागू कर रहा है

पहले पता लगाएं। OpenAI ने अपनी प्रणालियों में बाहरी छवि वर्गीकरकों को एकीकृत किया है, जिसमें बाल सुरक्षा प्रौद्योगिकी पर केंद्रित गैर-लाभकारी Thorn से CSAM सामग्री वर्गीकरक शामिल है।

वह वर्गीकर्ता दो अलग-अलग कार्यों को संभालता है। पहला है हैश मिलान के माध्यम से ज्ञात CSAM को पकड़ना। दूसरा है नए सामग्री, जिसमें AI-उत्पादित विविधताएँ शामिल हैं जो पहले कभी नहीं देखी गई हैं, को चिह्नित करना।

यह अंतर उतना महत्वपूर्ण है जितना यह सुनाई देता है। हैश मैचिंग एक फिंगरप्रिंट डेटाबेस की तरह काम करता है: एक छवि को एक अद्वितीय डिजिटल साइनेचर में कम कर दिया जाता है, और उस साइनेचर की पहले पहचाने गए दुरुपयोग सामग्री की सूचि के साथ तुलना की जाती है।

एक हाल ही में उत्पन्न छवि का किसी फ़ाइल पर कोई फिंगरप्रिंट नहीं होता है, इसलिए एक ऐसी प्रणाली जो केवल सूची की जांच करती है, उसे स्वीकार कर लेगी। नवीन-सामग्री वर्गीकर्ता इस अंतर को भरने के लिए मौजूद हैं, जो यह निर्णय करते हैं कि एक छवि क्या दर्शाती है, बजाय इसके कि क्या इसे सूचीबद्ध किया गया है।

दूसरा भाग ChatGPT के अंदर मौजूद है। जो उपयोगकर्ता बच्चों को यौन रूप से उत्तेजित करने वाली सामग्री बनाने या उसका प्रयास करने की कोशिश करते हैं, उन्हें अब स्वचालित चेतावनियाँ मिलेंगी, और दोहराए जाने या गंभीर प्रयासों से अस्थायी ब्लॉक या खाता निलंबन की संभावना है।

ये हस्तक्षेप 2026 के मध्य नवंबर में व्यक्तिगत खातों पर धीरे-धीरे विश्वव्यापी रूप से शुरू हुए। ये अभी उद्यम खातों, शैक्षिक खातों या कुछ डेस्कटॉप इंटरफेस पर लागू नहीं होते हैं।

चेतावनियों के पीछे एक व्यापक स्तर के रियल-टाइम वर्गीकरक बैठे हैं जो पाठ, छवि और ऑडियो सामग्री को प्रोसेस कर सकते हैं। इस टूलकिट में संदर्भ-जागरूक वर्गीकरक और प्रॉम्प्ट स्तर पर पता लगाने की क्षमता भी शामिल है, जिसका अर्थ है कि एक अनुरोध को उसके आधार पर चिह्नित किया जा सकता है कि उपयोगकर्ता क्या मांग रहा है, केवल इस बात पर नहीं कि मॉडल क्या उत्पन्न करता है।

डेवलपर्स को अपने निर्देश मिलते हैं। 15 नवंबर, 2026 को, OpenAI ने API डेवलपर्स के लिए CSAM दिशानिर्देश प्रकाशित किए जो नए कंटेंट के लिए परिलक्षणीय हैश मैचिंग को क्लासिफायर्स के साथ एकीकृत करने की प्रक्रिया को समझाते हैं।

परिलक्षणात्मक हैशिंग मानक हैशिंग का अधिक सहिष्णु संबंधी है। इसमें बिल्कुल सटीक मेल की आवश्यकता नहीं होती, बल्कि इसे आकार बदले गए, क्रॉप किए गए या हल्के ढंग से बदले गए चित्र को पहचानने में सक्षम होता है।

अंत में, रिपोर्टिंग पाइपलाइन है। OpenAI पुष्टि किए गए CSAM की रिपोर्ट अमेरिकी क्लीयरिंगहाउस, गायब और शोषित बच्चों के राष्ट्रीय केंद्र (NCMEC) को करता है, जो ऐसी रिपोर्ट्स को कानून प्रवर्तन एजेंसियों को रूट करता है।

2025 में OpenAI द्वारा NCMEC को प्रस्तुत किए गए CSAM रिपोर्ट्स में उल्लेखनीय वृद्धि हुई, जिसे कंपनी अपने उत्पादों के विकास के कारण बता रही है।

OpenAI कैसे यहाँ आया

26 अप्रैल, 2026 को, OpenAI ने NCMEC और अन्य संगठनों के सहयोग से एक बच्चों की सुरक्षा योजना जारी की।

उस दस्तावेज़ पर नीति पर भारी निर्भरता थी। इसमें जोर दिया गया कि मौजूदा कानूनी ढांचे को एआई-उत्पादित सीसैम के साथ निपटने के लिए आधुनिकीकरण की आवश्यकता है, एक ऐसी श्रेणी जिसके लिए मौजूदा कानून नहीं बनाए गए थे।

डिस्क्लेमर: इस पेज पर दी गई जानकारी थर्ड पार्टीज़ से प्राप्त की गई हो सकती है और यह जरूरी नहीं कि KuCoin के विचारों या राय को दर्शाती हो। यह सामग्री केवल सामान्य सूचनात्मक उद्देश्यों के लिए प्रदान की गई है, किसी भी प्रकार के प्रस्तुतीकरण या वारंटी के बिना, न ही इसे वित्तीय या निवेश सलाह के रूप में माना जाएगा। KuCoin किसी भी त्रुटि या चूक के लिए या इस जानकारी के इस्तेमाल से होने वाले किसी भी नतीजे के लिए उत्तरदायी नहीं होगा। डिजिटल संपत्तियों में निवेश जोखिम भरा हो सकता है। कृपया अपनी वित्तीय परिस्थितियों के आधार पर किसी प्रोडक्ट के जोखिमों और अपनी जोखिम सहनशीलता का सावधानीपूर्वक मूल्यांकन करें। अधिक जानकारी के लिए, कृपया हमारे उपयोग के नियम और जोखिम प्रकटीकरण देखें।