ट्यूरिंग पुरस्कार विजेता और प्रबलन सीखने के पिता रिचर्ड सटन द्वारा वर्तमान जनरेटिव AI की आंतरिक सीमाओं की आलोचना की गई है: अच्छे हिस्से नवीन नहीं हैं, और नवीन हिस्से अच्छे नहीं हैं।

लेखक, स्रोत: न्यूज़िज़यन

एआई: अच्छा हिस्सा नया नहीं है, नया हिस्सा अच्छा नहीं है

एक अकादमिक विश्लेषण का सबसे कठोर मूल्यांकन है:

यह काम नवीन और बहुत अच्छा है।

दुर्भाग्य से, अच्छा हिस्सा नया नहीं है, और नया हिस्सा अच्छा नहीं है।

लेकिन पुनर्बलन सीखने के क्षेत्र के स्थापित कर्ताओं में से एक, "पुनर्बलन सीखना" पाठ्यपुस्तक के लेखक और ट्यूरिंग पुरस्कार विजेता रिचर्ड सटन ने इस हास्य को पूरे जनरेटिव AI पर लागू किया।

वह कहता है: यह मूल्यांकन आज हम जिन AI को जानते हैं, उनमें से अधिकांश के लिए लागू होता है।

एआई: अच्छा हिस्सा नया नहीं है, नया हिस्सा अच्छा नहीं है

सटन का मुख्य तर्क अत्यंत सरल है, इतना सरल कि क्रूर है।

जनरेटिव AI मूल रूप से सुपरवाइज्ड लर्निंग है।

सुपरवाइज्ड लर्निंग का तर्क है: मॉडल को मानव द्वारा बनाए गए कई नमूनों को देखें, ताकि यह नकल करना सीख सके।

जितना अधिक नकल की जाएगी, उतना अधिक स्कोर मिलेगा।

सवाल आया।

जब मॉडल अपने प्रशिक्षण डेटा के अनुसार केवल सटीक रूप से सामग्री उत्पन्न करता है, तो आउटपुट की गुणवत्ता बहुत अच्छी होती है, क्योंकि यह मानव द्वारा पहले ही सत्यापित अच्छी चीजों को दोहरा रहा है। लेकिन यह नवीन नहीं है। यह केवल मानव द्वारा पहले से ज्ञात बातों को अलग-अलग क्रमों में पुनः पैकेज कर रहा है।

जब मॉडल प्रशिक्षण डेटा से भटकने की कोशिश करता है और वास्तविक रूप से नया सामग्री उत्पन्न करता है, तो गुणवत्ता बर्बाद हो जाती है। क्योंकि इसमें कोई आंतरिक तंत्र नहीं है जो यह निर्णय ले सके कि "यह नया चीज़ वास्तव में कितनी अच्छी है"। यह केवल उत्पन्न करता है, मूल्यांकन नहीं करता।

यही वह संरचनात्मक विरोधाभास है:

नवीनता और गुणवत्ता, शुद्ध नियंत्रित शिक्षा के ढांचे के तहत, झूले के दोनों सिरे हैं।

एक ओर दबाओ, तो दूसरी ओर उठ जाती है।

यह इंजीनियरिंग समस्या नहीं है। डेटा को बढ़ाकर, मॉडल को बड़ा करके या अधिक GPU जोड़कर इसे हल नहीं किया जा सकता।

सटन ने एक अत्यंत चौंकाने वाली तुलना की: "भ्रम" — जो बड़े मॉडल की सबसे आलोचित कमी है — मूल रूप से मॉडल के "नवीन" होने की कोशिश का एक अपरिहार्य परिणाम है।

हमें भ्रम से नफरत है, जो एक बात को साबित करता है: हमें वास्तव में नवीनता की आवश्यकता नहीं है। हमें केवल उच्च गुणवत्ता वाली नकल की आवश्यकता है।

अच्छा नया नहीं होता, नया अच्छा नहीं होता।

उस हास्य में समीक्षक की विषैली टिप्पणी, जो वास्तव में जनरेटिव AI की आंतरिक सीमाओं को सटीक रूप से वर्णित करती है।

असली 「खोज」 के लिए तीनों चीजें चाहिए

सटन ने प्रथम सिद्धांतों से शुरू करते हुए रचनात्मकता के "त्रिसदस्य सूत्र" को विघटित किया:

वास्तविक खोज (Discovery) = विविधता (Variation) + मूल्यांकन (Evaluation) + चयनात्मक संरक्षण (Retention)।

कोई भी वास्तविक रचनात्मकता और खोज, तीन चरणों की आवश्यकता होती है, जिनमें से कोई भी अनिवार्य है:

1. विविधता (Variation) विविधता की संभावनाएँ उत्पन्न करती है। यह यादृच्छिक हो सकती है, या पहले से ज्ञात जानकारी पर आधारित हो सकती है, लेकिन इसमें वास्तविक अनिश्चितता होनी चाहिए—अन्यथा इसे खोज नहीं, बल्कि टेबल चेक कहते हैं।

2. मूल्यांकन (Evaluation): यह निर्धारित करता है कि कौन से परिवर्तन मूल्यवान हैं। इसके लिए एक स्पष्ट लक्ष्य, या 'अच्छा' और 'बुरा' पहचानने की क्षमता वाला मानदंड आवश्यक है।

3. चयनात्मक धारण (Selective Retention): मूल्यवान विचलनों को बरकरार रखें, ताकि वे भविष्य की कार्रवाई और सीखने पर प्रभाव डाल सकें।

ये तीन चरण, सटन के आविष्कार नहीं हैं। ये प्राकृतिक चयन का तर्क है, वैज्ञानिक विधि का तर्क है, और मानव अधिगम का तर्क है।

Evolution: Random gene mutations (variations) → Environmental selection (evaluation) → Survival of the fittest (selective retention).

Scientific method: Propose hypothesis (variation) → Experimental verification (evaluation) → Publish paper (selective retention).

मानव अधिगम: विभिन्न समाधानों का प्रयास करना (परिवर्तन) → सही या गलत की जांच करना (मूल्यांकन) → प्रभावी तरीकों को याद रखना (चयनात्मक संरक्षण)।

अब, जनरेटिव AI ने त्रिमूर्ति का केवल पहला चरण पूरा किया है: लगभग कोई मूल्यांकन नहीं, और न ही चयनात्मक रखे जाने की बात,

यह एक ऐसा धनुषधारी की तरह है जो यादृच्छिक रूप से तीर चलाता है, लेकिन आँखें बंद होती हैं, और तीर छोड़ने के बाद वह निशाना नहीं देखता और अपनी स्थिति को परिणाम के आधार पर समायोजित भी नहीं करता।

आप इसे एक लाख तीर चलाने के लिए कहते हैं, कभी-कभी लक्ष्य भी मार लेता है, लेकिन यह कभी नहीं जान पाता कि यह क्यों मारा।

तो, वैज्ञानिकों का क्या उपयोग है?

यहाँ तक पहुँचकर आप थोड़े चिंतित हो सकते हैं: अगर भविष्य में AI वास्तव में "खोज" के त्रिसूल को स्वयं पूरा कर सकता है, तो क्या वैज्ञानिकों को बेरोजगार होना पड़ेगा?

सटन का अपना जवाब था: बदला नहीं जा सकता, लेकिन भूमिका को पूरी तरह से बदलना होगा।

उसने अपने भाषण में कहा कि अभी तक कोई भी AI, जो गणितीय प्रमेय को स्वतंत्र रूप से सिद्ध कर सकता है, अभी भी मनुष्यों की आवश्यकता होती है ताकि उन्हें बताया जा सके कि कौन से प्रश्न महत्वपूर्ण हैं।

यह विनम्रता नहीं, बल्कि वास्तविक ज्ञान की सीमा है।

राइस विश्वविद्यालय के अनुकूलन क्षेत्र के गणितज्ञ शिकियान मा कहते हैं: उन्होंने ChatGPT का उपयोग करके एक ऐसे एल्गोरिथम की अभिसरणता समस्या को साबित किया, जिस पर उन्होंने पूरे छह वर्ष तक काम किया।

सारांश में एक वाक्य है:

प्रमाण ChatGPT 5.5 द्वारा उत्पन्न और लेखक द्वारा सत्यापित।

इस एल्गोरिथम का नाम BDRS है, जिसका पूरा नाम Bregman Douglas-Rachford Splitting है, जिसका उपयोग ऑप्टिमल ट्रांसपोर्ट (Optimal Transport) समस्याओं को हल करने के लिए किया जाता है।

पेपर का शीर्षक: Bregman Douglas-Rachford Splitting Method

प्रिंट के पहले का पता:

यह उसके और सह-लेखकों द्वारा स्वयं डिज़ाइन किया गया था, और छह वर्षों तक उसे परेशान करता रहा कि इसकी अभिसरणता का प्रमाण क्या है, यानी गणितीय रूप से सख्त अर्थों में 'यह क्यों सही है'।

arXiv प्रीप्रिंट प्लेटफॉर्म को सबमिशन मिलने के बाद, अभी तक इसे स्थगित कर दिया गया है।

उसने अनुमान लगाया कि कारण यह है कि सारांश में "ChatGPT" तीन अक्षर हैं, और प्लेटफॉर्म को इस तरह के निबंधों को कैसे संभालना है, यह पता नहीं है।

लेकिन क्या मानव को AI द्वारा प्रतिस्थापित किया जा सकता है?

उसका जवाब था: नहीं। उसने सीधे कहा:

मुझे लगता है कि AI ऐसे एल्गोरिथम को रचनात्मक रूप से प्रस्तावित नहीं कर सकता और दावा नहीं कर सकता कि "यह एक उत्तम परिवहन के लिए एक कुशल एल्गोरिथम है, अब मैं इसकी अभिसरणता को सिद्ध करने की कोशिश करता हूँ।"

बिना मानवीय दिशा-निर्देश के, AI को यह नहीं पता कि कौन सी समस्या को हल करना है।

यह वाक्य Sutton के साथ सटीक रूप से मेल खाता है: समस्या स्वयं, मानव द्वारा परिभाषित की जानी चाहिए।

उसने सही प्रश्न पूछने के लिए छह साल बिताए:

विषय के बारे में आपको बहुत गहरी समझ होनी चाहिए, ताकि आप कौन से प्रश्न पूछ सकें।

इस मामले में, मैंने इस समस्या पर छह वर्ष तक काम किया है, इसलिए मुझे इसकी कठिनाइयाँ स्पष्ट रूप से ज्ञात हैं।

ये छह वर्ष व्यर्थ नहीं हैं, ये पूर्वापेक्षा हैं।

इसी छह वर्षों ने उसे बताया कि यह साबित करने की समस्या कहाँ है, पिछली सभी राहों के असफल होने का कारण क्या था, और ChatGPT ने किस दिशा को सुझाया जिसे आगे बढ़ाना चाहिए और कौन सी भ्रम है।

और यह एक बार की चेतावनी नहीं, बल्कि पांच महीने की है। यह सबसे अधिक गलत समझा जाने वाला बिंदु है, जिसे वह खुद भी गलत समझ चुका है:

जनवरी से मई तक, पूरे पांच महीने, असंख्य बातचीत, हर प्रॉम्प्ट उस साबिती की ओर बढ़ रहा था।

उसने अत्यंत स्पष्टता के साथ सारांशित किया:

अनुसंधान की प्रकृति अपरिवर्तित रही है, यह फिर से प्रयास और त्रुटि का काम है। बदला है प्रत्येक प्रयास की गति—पहले एक दिशा की पुष्टि करने में कई सप्ताह लगते थे, अब कुछ मिनटों में पता चल जाता है कि यह रास्ता चलने योग्य है या नहीं।

लेकिन AI का योगदान अमिट है:

और फिर, अंत में सीधे भगवान बन जाएँ:

मेरे BDRS के अभिसरण पर पेपर के बारे में, मैं काफी आत्मविश्वास से कह सकता हूँ कि सिद्धांत सही है।

लेकिन अगर आपको कोई त्रुटि दिखाई दे, तो मेरी जिम्मेदारी है—कृपया ChatGPT को दोष न दें, यह केवल 3.5 साल का है।

इसकी बड़ी बात द्वैतता है: यह एक ईमानदारी से जुड़ी जिम्मेदारी का बयान है, और एक सटीक रूपक भी।

"3.5 साल" इस समय AI की वास्तविक स्थिति का वर्णन करता है: अद्भुत क्षमता, लेकिन निर्णय अपरिपक्व।

क्योंकि मनुष्यों ने कभी 3.5 साल के बच्चे से कोई योगदान की उम्मीद नहीं की है।

हालाँकि आप AI को साक्ष्य के अंतिम हस्ताक्षर का अधिकार नहीं दे सकते, लेकिन आप यह भी नहीं कर सकते कि AI ने कोई योगदान नहीं दिया ऐसा बताएँ।

इसीलिए, वास्तविक वैज्ञानिक खोजें मानव हाथों में नहीं गायब होतीं।

विपरीत रूप से, यह मानवता को अधिक क्रूरता से छाँटेगा: जो लोग अच्छे प्रश्न पूछ सकते हैं, वे ही मजबूत AI के योग्य हैं।

भविष्य में, वैज्ञानिक बिना AI के काम करना, शायद खगोलशास्त्री के बिना कंप्यूटर के काम करने जैसा पुराना हो जाएगा।

अंत में, आइए मिलकर सटन की घोषणात्मक बातों को दोहराएँ:

अगर हम एआई वैज्ञानिकों की पूरी शक्ति को पूरी तरह से उजागर करना चाहते हैं, तो हमें उनके साथ लक्ष्य साझा करने चाहिए, ताकि वे बना सकें, मूल्यांकन कर सकें, और खोज सकें, और इस प्रकार इन लक्ष्यों की प्राप्ति में पूर्णतः सम्मिलित हो सकें।

आइए थोड़ा बहादुरी से काम लें! आइए सृजनशीलता और खोज को पूरी तरह से स्वचालित करें!