AI का वास्तविक रूप से द्रव्यमान तक पहुँचना इस बात पर निर्भर करता है कि समाज इसके द्वारा उत्पादित सामग्री पर विश्वास करता है या नहीं।

लेखक, स्रोत: ME News



TL;DR

• केंद्रीय इंटरनेट नियामक आयोग द्वारा “स्वच्छ और AI अनुप्रयोगों की अव्यवस्था को समाप्त करना” अभियान के दूसरे चरण को शुरू किया गया है, जिसमें AI द्वारा बनाई गई झूठी जानकारी, अश्लील और हिंसात्मक सामग्री, दूसरों की पहचान का दुरुपयोग और बच्चों के अधिकारों का हनन जैसे मुद्दों पर विशेष ध्यान दिया जा रहा है। अब तक, 561 लाख से अधिक अवैध और अनुचित संदेश हटाए गए हैं, 49,000 से अधिक खातों पर कार्रवाई की गई है, और 2,400 से अधिक अवैध वेबसाइटें और एप्लिकेशन समाप्त किए गए हैं।
• डोबाओ, युआनबाओ, चियानवेन, वेनशिनयियान जैसे AI प्लेटफॉर्म भाषा नियंत्रण, मॉडल सुरक्षा फिल्टरिंग और उत्पादित सामग्री चिह्नितकरण तंत्र को मजबूत कर रहे हैं, जिसका मुख्य लक्ष्य AI क्षमताओं को सीमित करना नहीं, बल्कि प्रौद्योगिकी के दुरुपयोग के जोखिम को कम करना है।
• AI शासन “अनुचित सामग्री हटाने” से “सामग्री उत्पादन प्रक्रिया को नियंत्रित करने” की ओर बदल रहा है, जिसमें मॉडल प्रशिक्षण, डेटा स्रोत, उत्पादन चरण और प्रसार शृंखला सभी नियामक ध्यान का केंद्र बन गए हैं।
• जनरेटिव AI की व्यावसायिक प्रतिस्पर्धा, भविष्य में केवल मॉडल पैरामीटर और उत्पाद अनुभव की तुलना ही नहीं, बल्कि सुरक्षा क्षमता, अनुपालन क्षमता और दीर्घकालिक विश्वास की भी तुलना करेगी।
• AI का वास्तविक रूप से द्रव्यमान तक पहुँचना इस बात पर निर्भर करता है कि समाज इसके द्वारा उत्पादित सामग्री पर विश्वास करता है या नहीं।

The pace of development in artificial intelligence is continuously reshaping public understanding of the boundaries of technology.

कुछ साल पहले, लोग AI की चर्चा मॉडल पैरामीटर, कैलकुलेशन क्षमता, उत्तर की गुणवत्ता और व्यावसायिक अनुप्रयोगों पर केंद्रित करते थे। जिसके पास बड़ा मॉडल है और जिसकी निष्कर्ष निकालने की क्षमता अधिक है, ऐसा लगता था कि वही भविष्य जीतेगा।

लेकिन जब जनरेटिव AI के बड़े पैमाने पर अनुप्रयोग के चरण में प्रवेश किया गया, तो एक अधिक वास्तविक समस्या धीरे-धीरे सामने आई: यदि AI कुछ सेकंड में एक पाठ, एक छवि, एक ध्वनि, या यहां तक कि एक पूरा प्रतीत होने वाला सच्चा सूचना सेट उत्पन्न कर सकता है, तो कौन सुनिश्चित करेगा कि ये सामग्रियां अफवाहें फैलाने, जनमत को प्रभावित करने और अधिकारों का उल्लंघन करने के लिए एक नया उपकरण नहीं बन जाएंगी?

यह एक दूर की समस्या नहीं है।

केंद्रीय इंटरनेट अधिकारिता ने हाल ही में “स्वच्छ और AI अनुप्रयोगों की अव्यवस्था को दूर करना” अभियान के दूसरे चरण को शुरू किया है, जो इस वास्तविक जोखिम के प्रति प्रबंधन कर रहा है। इस अभियान का मुख्य ध्यान AI का उपयोग करके झूठी जानकारी बनाने और प्रकाशित करने, हिंसात्मक और अश्लील सामग्री को प्रसारित करने, दूसरों का नकली बनाना और बच्चों के अधिकारों का उल्लंघन करने जैसे प्रमुख मुद्दों पर है। अब तक, अभियान ने 561 लाख से अधिक अवैध और अनुचित सूचनाओं को हटाया है, 49,000 से अधिक खातों पर कार्रवाई की है, और 2400 से अधिक अवैध वेबसाइटों और एप्लिकेशन्स को संसाधित किया है।

इन आंकड़ों के पीछे जो दिखाई देता है, वह AI तकनीक में समस्या नहीं है, बल्कि एक तेजी से विकसित उद्योग के परिपक्वता के चरण में प्रवेश करने के बाद सामना करना पड़ने वाला शासन का मुद्दा है।

जो कोई भी तकनीक सामाजिक कार्यप्रणाली को बदलती है, उसके केवल दक्षता में वृद्धि का ही पहलू नहीं होता।

इंटरनेट ने जानकारी के मुक्त प्रवाह को लाया, साथ ही झूठी जानकारी के प्रसार को भी बढ़ावा दिया; मोबाइल भुगतान ने वित्तीय अनुभव को बदल दिया, और नए धोखेबाजी के मॉडल को जन्म दिया; शॉर्ट वीडियो ने सामग्री उत्पादन की सीमा कम कर दी, और ट्रैफ़िक-प्राथमिकता वाले प्रतिस्पर्धी परिवेश का निर्माण किया।

AI भी ऐसा ही है।

यह उत्पादन की दक्षता में वृद्धि कर सकता है, और कम लागत वाले अवैध कार्यों को भी बढ़ा सकता है।

पिछले समय में एक झूठा लेख या एक झूठा वीडियो बनाने के लिए मानवीय संसाधनों का बहुत अधिक समय लगता था। लेकिन आज, AI ने सामग्री उत्पादन की बाधाओं को कम कर दिया है, जिससे सामान्य उपयोगकर्ताओं को पेशेवर टीमों के बराबर उत्पादन क्षमता प्राप्त हो गई है। यदि उचित शासन तंत्र नहीं है, तो तकनीकी लाभ का उपयोग कुछ लोग मिथ्या और अराजकता पैदा करने के लिए कर सकते हैं।

इसलिए, AI शासन नवाचार पर ब्रेक नहीं लगाता, बल्कि उच्च गति से विकसित हो रहे मार्ग पर सुरक्षा प्रणाली जोड़ता है।

कई लोगों के मन में एक सवाल उठ सकता है: क्या AI नहीं होना चाहिए कि जितना संभव हो उतना खुला हो? तो अब इतने सारे AI उत्पाद अपने द्वारा उत्पन्न सामग्री पर प्रतिबंध क्यों लगा रहे हैं?

इस समस्या की मूल बात यह है कि कैसे कृत्रिम बुद्धिमत्ता उत्पादों की जिम्मेदारी की सीमा को समझा जाए।

पारंपरिक सॉफ्टवेयर अक्सर केवल उपकरण प्रदान करता है, लेकिन जनरेटिव AI सिर्फ एक उपकरण नहीं है। यह सामग्री उत्पादन प्रक्रिया में शामिल होता है और यहां तक कि उपयोगकर्ता की पहचान पर प्रत्यक्ष प्रभाव डालता है।

जब उपयोगकर्ता AI से प्रश्न करते हैं, तो मॉडल द्वारा उत्पन्न सामग्री निवेश के निर्णय, स्वास्थ्य संबंधी निर्णय, शिक्षा और अध्ययन, यहां तक कि जनसामान्य घटनाओं की समझ पर प्रभाव डाल सकती है। इसलिए, AI प्लेटफॉर्म को केवल "क्या उत्पन्न किया जा सकता है" पर ही ध्यान केंद्रित नहीं करना चाहिए, बल्कि "क्या उत्पन्न किया जा रहा है", "क्यों उत्पन्न किया जा रहा है", और "उत्पन्न होने के बाद क्या प्रभाव पड़ेगा" इन पर भी विचार करना चाहिए।

दोबाओ, युआनबाओ, चियानवेन, वेनशिनयियान जैसे प्लेटफॉर्म अपनी सामग्री नियंत्रण को मजबूत कर रहे हैं, जिससे वे एक नया AI उत्पाद सुरक्षा प्रणाली बना रहे हैं। सूचना अधिकारिता विभाग के अनुसार, संबंधित प्लेटफॉर्म मूल प्रशिक्षण डेटा की कड़ी समीक्षा कर रहे हैं, अवैध सामग्री फ़िल्टरिंग को मजबूत कर रहे हैं, और AI द्वारा उत्पन्न संश्लेषित सामग्री के पहचानकर्ता की आवश्यकता को मजबूत कर रहे हैं, ताकि अवैध और कानून के खिलाफ़ सूचनाओं के उत्पादन और प्रसार का जोखिम मूल स्तर पर कम हो सके। (राष्ट्रीय बाजार नियंत्रण प्रशासन)

इसका अर्थ है कि AI शासन अब पारंपरिक इंटरनेट युग का “बाद में निपटान” नहीं है।

पिछले समय में, प्लेटफॉर्म अनुचित सामग्री के सामने अधिकतर खोज, हटाने और बैन करने के तरीके अपनाता था।

लेकिन AI के युग में अलग है।

अगर समस्या उत्पादन चरण में होती है, तो केवल प्रसारित सामग्री को हटाना पर्याप्त नहीं है। क्योंकि AI नए विकल्प लगातार उत्पन्न कर सकता है, और एक ही अनुचित सामग्री एक अलग अभिव्यक्ति के साथ फिर से प्रकट हो सकती है।

इसलिए, शासन को आगे बढ़ाना आवश्यक है।

ट्रेनिंग डेटा से शुरू करके, मॉडल क्षमता नियंत्रण तक, और फिर उपयोगकर्ता द्वारा उत्पादित सामग्री की समीक्षा तक, पूरी लंबाई का लिंक बनाएं।

सरल शब्दों में, भविष्य के उत्कृष्ट AI उत्पाद केवल प्रश्नों के उत्तर अधिक सटीक देने तक सीमित नहीं होंगे, बल्कि यह जानेंगे कि कौन से प्रश्नों का उत्तर नहीं दिया जाना चाहिए, कौन सी सामग्री नहीं बनाई जानी चाहिए, और किन परिदृश्यों में उपयोगकर्ता को जोखिम के बारे में सूचित किया जाना आवश्यक है।

यही कारण है कि AI सुरक्षा क्षमताएँ उत्पाद प्रतिस्पर्धात्मकता का एक हिस्सा बन रही हैं।

हालाँकि, AI शासन का अर्थ केवल एक “उत्पादन प्रतिबंध” की दीवार लगाना नहीं है।

अगर प्रतिबंध अत्यधिक हैं, तो AI उत्पादों का मूल्य खो सकता है।

अगर सीमाएँ पर्याप्त नहीं हैं, तो यह जोखिम पैदा कर सकती हैं।

यह सीमाओं के बारे में एक लंबे समय तक चलने वाला खेल है।

उदाहरण के लिए, एक उपयोगकर्ता एआई की मदद से एक उपन्यास लिखना चाहता है, जिसमें युद्ध, अपराध, संघर्ष आदि तत्व शामिल हैं, क्या यह उल्लंघन की श्रेणी में आता है?

एक शोधकर्ता चाहता है कि AI साइबर सुरक्षा दुर्बलताओं का विश्लेषण करे, जिससे दुर्भावनापूर्ण हमलों के बीच कैसे अंतर किया जाए?

एक इतिहास प्रेमी चाहता है कि AI प्रसिद्ध कृतियों को अनुकूलित करे, यह कैसे निर्धारित करें कि यह उचित सृजन है या अश्लील ठहराया जाने वाला मजाक है?

ये सभी प्रश्न यह दर्शाते हैं कि AI शासन को सरल कीवर्ड फिल्टरिंग पर निर्भर नहीं किया जा सकता।

वास्तविक प्रभावी शासन के लिए संदर्भ को समझना आवश्यक है।

इसी कारण से प्लेटफॉर्म बार-बार मल्टीमॉडल पहचान क्षमता को मजबूत कर रहा है, चेहरे के डेटाबेस, आवाज़ के डेटाबेस और उल्लंघनकारी नमूनों के डेटाबेस को डायनामिक रूप से विस्तारित कर रहा है। डोंगयिन, कुआईशो, वीबो, टेंसेंट, बैइडु, बिलिबिली, शियाओहोंगशु, ज़हुयुआन, डोंगबान, ताओबाओ जैसे प्लेटफॉर्म टेक्नोलॉजी के माध्यम से AI सामग्री पहचान और निपटान क्षमता में सुधार कर रहे हैं और अब तक 46 अधिसूचनाएँ जारी कर चुके हैं। (राष्ट्रीय बाजार नियमन प्राधिकरण)

भविष्य में AI सुरक्षा प्रतिस्पर्धा, संभवतः ऑटोनॉमस ड्राइविंग क्षेत्र की तरह होगी।

एक वास्तविक उन्नत प्रणाली गाड़ियों को पूरी तरह से चलने से नहीं रोकती, बल्कि जटिल परिस्थितियों में गाड़ियों को सुरक्षित रूप से चलाने में मदद करती है।

AI भी ऐसा ही है।

एक परिपक्व AI एक ऐसा सिस्टम नहीं है जो कुछ भी नहीं कर सकता, बल्कि खुली क्षमताओं और जोखिम नियंत्रण के बीच संतुलन है।

इस अभियान में जारी किए गए कुछ मामलों ने AI के दुरुपयोग के नए रूपों को भी दर्शाया है।

एक आम समस्या यह है कि AI का उपयोग करके क्लासिक कार्यों के निम्न गुणवत्ता वाले अनुकूलन किए जाते हैं।

पिछले समय में, नेटवर्क सामग्री उत्पादन में गुणवत्ता की कमी थी, लेकिन उत्पादन लागत ने आयामों को सीमित कर दिया था।

AI के आगमन के बाद, बैच जनरेशन संभव हो गया।

कुछ खाते AI का उपयोग करके क्लासिक कार्यों जैसे सान गुओ यान और सियू यी जी को "मोडिफाई" करते हैं, जिसमें पात्रों के सेटिंग्स को बदलकर और अजीब कहानियाँ बनाकर ट्रैफ़िक आकर्षित किया जाता है। ऐसी सामग्री लगती है कि यह केवल मनोरंजन है, लेकिन लंबे समय तक इसके व्यापक प्रसार से सांस्कृतिक सामग्री के प्रति जनता की समझ प्रभावित हो सकती है और उच्च गुणवत्ता वाली सामग्री पारिस्थितिकी को भी समाप्त कर सकती है।

एक और समस्या है AI द्वारा झूठी जानकारी बनाना।

पिछले समय में एक झूठी तस्वीर या झूठा वीडियो बनाने के लिए उच्च तकनीकी बाधाएँ थीं।

अब, जनरेटिव AI ने बाधाओं को कम कर दिया है।

गलत आपदा स्थल, गलत सामाजिक रुचि, और AI डिजिटल व्यक्तित्व के माध्यम से विपणन के धोखेबाजी, सभी संभावित रूप से जनता की सूचना के असमानता का उपयोग करके प्रभाव बनाते हैं। नेटवर्क नियामक विभाग द्वारा इस बार जारी किए गए मामलों में, AI द्वारा उत्पन्न की गई गलत आपदा छवियों का उपयोग करना, सामाजिक रुचि की जानकारी को गढ़ना, और डिजिटल व्यक्तित्व के माध्यम से गलत प्रचार करना शामिल है।

अधिक महत्वपूर्ण बात यह है कि AI चेहरा और आवाज़ बदलना।

आवाज़ और चेहरा, मानव व्यक्तित्व की पहचान करने के महत्वपूर्ण आधार हैं।

जब AI किसी व्यक्ति की आवाज़, अभिव्यक्ति या व्यवहार के आदतों को अनुकरण कर सकता है, तो पहचान विश्वास प्रणाली के सामने नए चुनौतियाँ उत्पन्न होती हैं।

This involves not only public figures but also ordinary users.

आज, किसी व्यक्ति की फोटो, ऑडियो सामग्री, सभी संभावित दुरुपयोग के लिए डेटा स्रोत बन सकती हैं।

इसलिए, AI युग में डेटा सुरक्षा केवल जानकारी के रिसाव को रोकने तक सीमित नहीं है, बल्कि व्यक्तिगत पहचान के डिजिटल प्रतिकृति बनाए जाने से भी बचना शामिल है।

पिछले कुछ वर्षों में, चीन का AI उद्योग तेजी से विकसित हुआ है।

बड़े मॉडल विकास से लेकर स्मार्ट असिस्टेंट और फिर कार्यालय, शिक्षा, ई-कॉमर्स, खोज जैसे अनुप्रयोगों तक, AI तकनीकी प्रदर्शन चरण से वास्तविक अनुप्रयोग चरण में प्रवेश कर रहा है।

लेकिन जितना आम उपयोगकर्ता के करीब जाते हैं, उतना ही सुरक्षा महत्वपूर्ण होता है।

एक उद्यम यह स्वीकार कर सकता है कि मॉडल कभी-कभी गलत उत्तर दे, लेकिन यह स्वीकार करना मुश्किल है कि मॉडल लगातार झूठी जानकारी बनाए।

एक उपयोगकर्ता AI की सीमित क्षमताओं को स्वीकार कर सकता है, लेकिन AI द्वारा धोखाधड़ी का निर्माण करने को स्वीकार नहीं कर सकता।

इसलिए, भविष्य में AI उद्योग की प्रतिस्पर्धा केवल तकनीकी प्रतिस्पर्धा नहीं होगी।

पैरामीटर साइज़ निश्चित रूप से महत्वपूर्ण है, अल्गोरिथम क्षमता निश्चित रूप से महत्वपूर्ण है, लेकिन विश्वास भी महत्वपूर्ण है।

क्यों वित्तीय उद्योग के अनुपालन पर इतना जोर दिया जाता है?

क्योंकि वित्तीय उत्पाद धन को जोड़ते हैं।

Why does the healthcare industry place such high importance on security?

क्योंकि चिकित्सा निर्णय जीवन को प्रभावित करते हैं।

और AI धीरे-धीरे ज्ञान, जानकारी और निर्णयों को जोड़ रहा है।

इसके लिए विश्वास की नींव भी बनाने की आवश्यकता है।

इस दृष्टिकोण से, साइबर अधिकारियों की इस अभियान ने AI विकास के खिलाफ नहीं, बल्कि AI उद्योग को अधिक परिपक्व विकास के चरण में ले जाने का प्रयास किया है। नियामक बाध्यताओं को स्पष्ट करते हैं, प्लेटफॉर्म क्षमताओं में सुधार करते हैं, और उपयोगकर्ता अपनी समझ बढ़ाते हैं, जिससे अंततः एक स्वस्थ पारिस्थितिकी तंत्र बनता है।

प्रौद्योगिकी के विकास के इतिहास ने बार-बार साबित किया है कि एक उद्योग तब वास्तविक रूप से परिपक्व होता है, जब वह कितने चमत्कार पैदा कर सकता है, बल्कि जब वह कितनी समस्याओं का समाधान कर सकता है।

AI ने अपनी रचनात्मकता को साबित कर दिया है।

यह लोगों को लिखने, प्रोग्रामिंग करने और सीखने में मदद कर सकता है, और व्यवसायों की दक्षता में वृद्धि कर सकता है।

लेकिन अगले चरण में, AI को एक और बात साबित करनी होगी: क्या यह विश्वसनीय है।

डोबाओ, युआनबाओ, चियानवेन, वेनशिनयियान जैसे प्लेटफॉर्म अवैध सामग्री पर प्रतिबंध को मजबूत कर रहे हैं, जो मूल रूप से एक महत्वपूर्ण प्रश्न का उत्तर दे रहे हैं:

जब कृत्रिम बुद्धिमत्ता की रचनात्मकता बढ़ती जाती है, तो क्या उसकी क्षमता के अनुरूप जिम्मेदारी का बोध भी होता है?

यह निर्णय केवल कुछ AI उत्पादों की विकास दिशा ही नहीं, बल्कि पूरे उद्योग को लंबे समय तक स्थिर विकास चक्र में प्रवेश करने की क्षमता भी निर्धारित करता है।

人工智能 का भविष्य, केवल अधिक सामग्री बनाने वाले प्रणालियों का नहीं, बल्कि रचनात्मकता, सुरक्षा और सामाजिक मूल्य के बीच संतुलन बनाने वाले प्रणालियों का होगा।

वास्तविक रूप से महान प्रौद्योगिकी कभी इसलिए नहीं होती क्योंकि वह सब कुछ कर सकती है, बल्कि इसलिए होती है क्योंकि वह जानती है कि क्या नहीं कर सकती और क्यों नहीं कर सकती।

1. सेंट्रल नेटवर्क सुरक्षा और जानकारी आयोग: "स्पष्ट और AI अनुप्रयोगों की अव्यवस्था को समाप्त करने" अभियान के दूसरे चरण के कार्य को गहराई से लागू करना, 2 अगस्त, 2026।
2. 中央网络安全和信息化委员会办公室：《中央网信办部署开展“清朗·整治AI应用乱象”专项行动》，2026年4月30日。
3. जनरेटिव एआई सेवाओं के प्रबंधन की अस्थायी विधियाँ, राष्ट्रीय इंटरनेट जानकारी कार्यालय और अन्य विभाग, 2023।
4. अंतर्जाल सामग्री उत्पादन के लिए कृत्रिम बुद्धिमत्ता द्वारा निर्मित संश्लेषित सामग्री की पहचान की विधि, राष्ट्रीय अंतर्जाल सूचना कार्यालय और अन्य विभाग, 2025।
5. रसल, स्टुअर्ट और नॉरविग, पीटर। कृत्रिम बुद्धिमत्ता: एक आधुनिक दृष्टिकोण। पियर्सन।
6. श्नाइडरमैन, बेन। मानव-केंद्रित एआई। ऑक्सफोर्ड यूनिवर्सिटी प्रेस।