OpenAI ने बच्चों के यौन दुर्व्यवहार सामग्री (CSAM) के लिए एक नया सेट टूल्स की घोषणा की है। मुख्य बिंदु एक इमेज क्लासिफायर है, जिसे ऐसी सामग्री, जिसमें AI द्वारा उत्पन्न चित्र शामिल हैं, का पता लगाने के लिए बनाया गया है।
इस लॉन्च के चार भाग हैं: नया छवि वर्गीकरक, चैटजीपीटी के भीतर चेतावनियाँ और अस्थायी ब्लॉक, डेवलपर्स के लिए एक नया मार्गदर्शिका, और कानून प्रवर्तन के लिए एक सेट टूल्स। एक साथ, वे उपयोगकर्ता, निर्माता और जाँचकर्ता को कवर करते हैं।
वह जो OpenAI वास्तव में लागू कर रहा है
पहले पता लगाएं। OpenAI ने अपनी प्रणालियों में बाहरी छवि वर्गीकरकों को एकीकृत किया है, जिसमें बाल सुरक्षा प्रौद्योगिकी पर केंद्रित गैर-लाभकारी Thorn से CSAM सामग्री वर्गीकरक शामिल है।
वह वर्गीकर्ता दो अलग-अलग कार्यों को संभालता है। पहला है हैश मिलान के माध्यम से ज्ञात CSAM को पकड़ना। दूसरा है नए सामग्री, जिसमें AI-उत्पादित विविधताएँ शामिल हैं जो पहले कभी नहीं देखी गई हैं, को चिह्नित करना।
यह अंतर उतना महत्वपूर्ण है जितना यह सुनाई देता है। हैश मैचिंग एक फिंगरप्रिंट डेटाबेस की तरह काम करता है: एक छवि को एक अद्वितीय डिजिटल साइनेचर में कम कर दिया जाता है, और उस साइनेचर की पहले पहचाने गए दुरुपयोग सामग्री की सूचि के साथ तुलना की जाती है।
एक हाल ही में उत्पन्न छवि का किसी फ़ाइल पर कोई फिंगरप्रिंट नहीं होता है, इसलिए एक ऐसी प्रणाली जो केवल सूची की जांच करती है, उसे स्वीकार कर लेगी। नवीन-सामग्री वर्गीकर्ता इस अंतर को भरने के लिए मौजूद हैं, जो यह निर्णय करते हैं कि एक छवि क्या दर्शाती है, बजाय इसके कि क्या इसे सूचीबद्ध किया गया है।
दूसरा भाग ChatGPT के अंदर मौजूद है। जो उपयोगकर्ता बच्चों को यौन रूप से उत्तेजित करने वाली सामग्री बनाने या उसका प्रयास करने की कोशिश करते हैं, उन्हें अब स्वचालित चेतावनियाँ मिलेंगी, और दोहराए जाने या गंभीर प्रयासों से अस्थायी ब्लॉक या खाता निलंबन की संभावना है।
ये हस्तक्षेप 2026 के मध्य नवंबर में व्यक्तिगत खातों पर धीरे-धीरे विश्वव्यापी रूप से शुरू हुए। ये अभी उद्यम खातों, शैक्षिक खातों या कुछ डेस्कटॉप इंटरफेस पर लागू नहीं होते हैं।
चेतावनियों के पीछे एक व्यापक स्तर के रियल-टाइम वर्गीकरक बैठे हैं जो पाठ, छवि और ऑडियो सामग्री को प्रोसेस कर सकते हैं। इस टूलकिट में संदर्भ-जागरूक वर्गीकरक और प्रॉम्प्ट स्तर पर पता लगाने की क्षमता भी शामिल है, जिसका अर्थ है कि एक अनुरोध को उसके आधार पर चिह्नित किया जा सकता है कि उपयोगकर्ता क्या मांग रहा है, केवल इस बात पर नहीं कि मॉडल क्या उत्पन्न करता है।
डेवलपर्स को अपने निर्देश मिलते हैं। 15 नवंबर, 2026 को, OpenAI ने API डेवलपर्स के लिए CSAM दिशानिर्देश प्रकाशित किए जो नए कंटेंट के लिए परिलक्षणीय हैश मैचिंग को क्लासिफायर्स के साथ एकीकृत करने की प्रक्रिया को समझाते हैं।
परिलक्षणात्मक हैशिंग मानक हैशिंग का अधिक सहिष्णु संबंधी है। इसमें बिल्कुल सटीक मेल की आवश्यकता नहीं होती, बल्कि इसे आकार बदले गए, क्रॉप किए गए या हल्के ढंग से बदले गए चित्र को पहचानने में सक्षम होता है।
अंत में, रिपोर्टिंग पाइपलाइन है। OpenAI पुष्टि किए गए CSAM की रिपोर्ट अमेरिकी क्लीयरिंगहाउस, गायब और शोषित बच्चों के राष्ट्रीय केंद्र (NCMEC) को करता है, जो ऐसी रिपोर्ट्स को कानून प्रवर्तन एजेंसियों को रूट करता है।
2025 में OpenAI द्वारा NCMEC को प्रस्तुत किए गए CSAM रिपोर्ट्स में उल्लेखनीय वृद्धि हुई, जिसे कंपनी अपने उत्पादों के विकास के कारण बता रही है।
OpenAI कैसे यहाँ आया
26 अप्रैल, 2026 को, OpenAI ने NCMEC और अन्य संगठनों के सहयोग से एक बच्चों की सुरक्षा योजना जारी की।
उस दस्तावेज़ पर नीति पर भारी निर्भरता थी। इसमें जोर दिया गया कि मौजूदा कानूनी ढांचे को एआई-उत्पादित सीसैम के साथ निपटने के लिए आधुनिकीकरण की आवश्यकता है, एक ऐसी श्रेणी जिसके लिए मौजूदा कानून नहीं बनाए गए थे।




