AI एजेंट्स द्वारा कार्यों पर कब्जा करने के दौरान क्रिटिकल थिंकिंग कैसे बनाए रखें

लेखक: एडी ओसमैनी (Anthropic Claude Code टीम, प्रसिद्ध तकनीकी आर्किटेक्ट)

संपादित: शेनचाओ टेकफ्लो

शेनचाओ का सारांश: एजेंटिक वर्कफ्लोज़ के सम्पूर्ण लागू होने के साथ, सॉफ्टवेयर इंजीनियर और उत्पाद टीमें मानव-मशीन सहयोग के प्रतिरूप में भारी बदलाव का अनुभव कर रही हैं। पिछले समय में प्रश्न और उत्तर के बीच विचार को जन्म देने वाला संज्ञानात्मक बफर अब केवल कुछ सेकंड में समाप्त हो गया है; बड़े मॉडल अधिक वास्तविक और अधिक सटीक होते जा रहे हैं, जिससे स्पष्ट त्रुटियाँ तेजी से कम हो रही हैं, लेकिन इससे लोग संज्ञानात्मक शरणागति की ओर धीरे-धीरे खिसक रहे हैं, और प्रणालीगत समझ और मूल क्षमताएँ अनजाने में तेजी से कमजोर हो रही हैं।

पूर्व Google Chrome इंजीनियरिंग निदेशक और वर्तमान Anthropic Claude Code टीम के प्रमुख सदस्य, एडी ओसमैनी इस लेख में "कॉग्निटिव अनलोडिंग", "जजमेंट को टालना" और "कॉग्निटिव सरेंडर" के स्पेक्ट्रम पर सरकने की घटना का व्यवस्थित विश्लेषण करते हैं। वे न केवल सिस्टम अंतर्ज्ञान के ऋण के अदृश्य सं tích मैकेनिज़म को विस्तार से समझाते हैं, बल्कि दैनिक कार्य प्रवाह के लिए एक व्यावहारिक और सुरक्षात्मक सक्रिय पढ़ने और प्रतिरोधी प्रश्न प्रणाली प्रस्तुत करते हैं, और स्पष्ट करते हैं कि भले ही AI की जीत की संभावना अधिक हो, मनुष्यों को अभी भी जिम्मेदारी की सीमा और आलोचनात्मक सोच की क्षमता को मजबूती से बनाए रखना चाहिए।

कभी नहीं, स्कूल में पढ़ाया जाने वाला आलोचनात्मक विचार यह आवश्यकता रखता था कि लोग नए जानकारी के सामने विनम्रता और संदेह के साथ आएं: सभी दृष्टिकोणों को सुनें, समग्र दृष्टि प्राप्त करें, और अंततः अपनी स्वतंत्र राय विकसित करें। यह सिद्धांत आज भी लागू होता है, लेकिन अब, जब मेरा दैनिक अधिकांश कार्य एजेंट्स (Agents) द्वारा संचालित होता है, तो वास्तविकता में लगभग कुछ भी मुझे आलोचनात्मक विचार करने के लिए बाध्य नहीं करता।

उन इंजीनियरों और उत्पाद विशेषज्ञों के लिए, जिन्होंने एजेंट वर्कफ्लो को पूरी तरह से अपना लिया है, दिन में कई सत्र समानांतर रूप से चला रहे हैं और मॉडल के प्रदर्शन में निरंतर सुधार का इंतजार कर रहे हैं, मैं पहले यह स्पष्ट करना चाहता हूँ कि मैं खुद इन उपकरणों का एक आदी हूँ। मैंने यह लेख इसलिए नहीं लिखा है कि लोग एजेंट वर्कफ्लो के उपयोग को कम करें।

मेरा मुख्य लक्ष्य है: इस ऐसी दुनिया में जहाँ कुछ भी आसानी से एजेंट्स को आउटसोर्स किया जा सकता है, आपकी आलोचनात्मक सोच को अभी भी मजबूती से बनाए रखने में आपकी मदद करना।

पिछले समय में, मानवीय ज्ञान प्रक्रिया और सौंदर्य निर्णय अधिकांशतः प्रश्न और उत्तर के बीच के खाली स्थान में विकसित हुए। हालाँकि, आज इस खाली स्थान का आकार कुछ ही सेकंड में समाप्त हो गया है। जितना आप एजेंट वर्कफ्लो का उपयोग करते हैं, उतना ही सचेत रहना कठिन होता जा रहा है (हालाँकि इस कठिनाई का तरीका सामान्य अपेक्षाओं से भिन्न हो सकता है): मॉडल के लगातार सुधार के साथ, स्पष्ट रूप से अवास्तविक त्रुटियों का प्रतिशत भारी मात्रा में कम हो गया है। अधिकांश उत्पादित परिणाम बहुत ही सम्मानजनक और सामान्य रूप से सही ढंग से लिखे गए हैं, लेकिन ठीक इसी प्रकार की, दिखने में अप्रतिवादी सम्मानजनकता के कारण, लोग इसे दोबारा देखने के लिए प्रेरित नहीं होते।

भले ही आप एक साथ दर्जनों एजेंट चला रहे हों, अंततः उत्पादन के परिणाम की समीक्षा करने वाले आपकी अपनी आँखें ही होंगी।

आपको अपने दैनिक प्रक्रियाओं में जानबूझकर आलोचनात्मक चिंतन को शामिल करना होगा, क्योंकि डिफ़ॉल्ट स्थिति में कोई बाहरी शक्ति आपके लिए निगरानी नहीं करेगी।

एक कारण यह है कि एजेंट वर्कफ्लो का अनुभव बहुत ही सुखद है। व्यस्त कार्य दिवस में, एक उचित, आरामदायक और लगभग सही उत्तर इतनी तेजी से प्राप्त करना वास्तव में मन को ताजगी प्रदान करता है; लेकिन यही वह स्थिति है जहाँ लोग पूरी तरह से सावधानी छोड़ देते हैं और हार मान लेते हैं।

जब मैं इस घटना पर सहकर्मियों के साथ चर्चा करता हूँ, तो मैं इसे एक निरंतर स्पेक्ट्रम के रूप में चित्रित करता हूँ:

स्पेक्ट्रम के सबसे ऊपरी छोर पर "संज्ञानात्मक अपलोडिंग" (Cognitive Offloading) है, जिसमें विस्तृत और थकान वाले कार्यों को AI को सौंप दिया जाता है, लेकिन मनुष्य सदैव अंतिम परिणाम के लिए पूर्ण स्वामित्व और जिम्मेदारी बनाए रखता है। मैं अपने पूरे दिन ऐसा ही करता हूँ, आपको भी ऐसा ही करना चाहिए।

स्पेक्ट्रम के मध्य में "निर्णय को टालना" (Deferral) स्थिति है, जिसमें उपकरण द्वारा उत्पन्न परिणाम सीधे आपके अगले कदम का नया इनपुट बन जाते हैं, और उत्पादित सामग्री को एक सत्यापित करने की आवश्यकता वाली मान्यता नहीं माना जाता।

और स्पेक्ट्रम के सबसे निचले छोर पर जो गिर जाता है, वह है "ज्ञानात्मक समर्पण" (Cognitive Surrender): AI का आउटपुट अचेतन रूप से आपके अपने दावे में बदल जाता है, और आपको यह महसूस होता है कि इसकी पुष्टि करने की कोई आवश्यकता नहीं है।

"ज्ञानात्मक शरणागति" शब्द को वॉर्टन स्कूल के स्टीवन शॉ और गिडियन नेवे ने प्रस्तुत किया। यह शब्द मेरे हाल के अनुभवों को अत्यंत सटीकता से प्रतिबिंबित करता है: उपकरणों पर विश्वास के बढ़ने (या आलस्य के विकास) के साथ, लोग अनजाने में इस स्पेक्ट्रम पर नीचे की ओर खिसकने लगते हैं।

यह स्लिपेज अक्सर बहुत छिपा हुआ और देखने में कठिन होता है, क्योंकि इसका प्रत्येक चरण धीरे-धीरे और वर्तमान में तर्कसंगत लगने वाले तरीके से होता है: आपने पिछले उत्तर को ध्यान से पढ़ा, इसलिए अगली बार आप केवल उसे उड़ान भरकर पढ़ते हैं; फिर अगली बार, आप केवल संरचना को एक नज़र से देखते हैं; और एक दिन, जब कोई आपको कोड की किसी पंक्ति की ओर इशारा करके सवाल पूछता है, तो आपको अचानक पता चलता है कि आपको, भले ही आप AI सहायता का उपयोग करें, उसकी मूलभूत तर्कशक्ति को समझाने में सक्षम नहीं हैं।

यह एक उदाहरण है जहाँ आपका ज्ञान समर्पित हो जाता है। यही “ज्ञान कर्ज” (Cognitive Debt) का धीरे-धीरे जमा होने का मूल कारण है। यह कर्ज आमतौर पर तब सामने आता है जब आप प्रणाली के समग्र मानसिक मॉडल को सक्रिय करने की कोशिश करते हैं, लेकिन आपके मस्तिष्क में कुछ भी नहीं मिलता।

शोधकर्ता मार्गरेट-एन टोरी ने लिखा है कि टीम सहयोग में यह साझा प्रणाली सिद्धांत की समझ के निरंतर क्षय के रूप में प्रकट होता है। मैंने भी कोड स्तर पर इसके समानांतर के बारे में लिखा है, जिसे "समझ ऋण" (Comprehension Debt, जेरेमी ट्वाई द्वारा प्रस्तावित) कहा जाता है। दैनिक कोड लिखने के दौरान, यह ऋण पूरी तरह से अदृश्य होता है: कोडबेस साफ़ और आकर्षक दिखता है, और सभी स्वचालित परीक्षण सफलतापूर्वक हरे रंग में पार हो जाते हैं। हालाँकि, जब प्रणाली को आर्किटेक्चरल स्तर पर पुनर्निर्मित करने की आवश्यकता होती है, तो सभी एक-दूसरे की ओर देखने लगते हैं: टीम में कोई भी वास्तव में इस प्रणाली को समझने वाला नहीं है। यही समस्या तब भी होती है जब आप केवल किसी रणनीति योजना या तकनीकी स्पेसिफिकेशन के सूचीबद्ध पृष्ठों को एक नज़र से देखकर, स्वयं को सहमति देने के लिए हस्ताक्षर कर देते हैं।

यह स्पष्ट होना चाहिए कि मैं एक अवास्तविक आदर्शवाद की प्रशंसा नहीं कर रहा हूँ। इंजीनियर्स को अपने मन में एक विशाल आधुनिक कोडबेस का पूर्ण मानसिक मॉडल बनाए रखना असंभव है। Claude Code टीम पहले ही स्पष्ट रूप से घोषणा कर चुकी है कि वे अब “आवश्यकता के आधार पर समझ का पुनर्निर्माण” की रणनीति अपना रहे हैं: जब किसी मॉड्यूल को संशोधित करने की आवश्यकता होती है, तो Claude को सीधे उस खंड की तर्कशक्ति समझाने के लिए बुलाया जाता है, न कि पूर्ण चित्र को मन में बनाए रखने की कोशिश की जाए।

जैसा कि मैंने पहले बताया था, इस प्रकार की स्थानीय समझ की बकायदा वास्तव में अधिकांश इंजीनियरों की कल्पना से आसानी से ठीक की जा सकती है। जब तक आप आवश्यकता पड़ने पर स्थानीय स्तर पर समझ को पुनः बना सकते हैं, तब तक आपको हमेशा पूरी छवि को बनाए रखने की आवश्यकता नहीं होती। लेकिन मूल बात यह है: आपको स्पष्ट रूप से जानना होगा कि आपके समझ के किन क्षेत्रों में अंधेरे के क्षेत्र हैं।

न्यूनतम त्रुटि लागत वाले छोटे-मोटे मामलों में, आप निर्णय लेने का पूरा अधिकार सौंपने में सहज महसूस कर सकते हैं। लेकिन जब आप एक महत्वपूर्ण प्रश्न का सामना करते हैं, या यहां तक कि एजेंट भी इसके नीचे के उत्तर को समझा नहीं पाता है, तो आप वास्तव में पूरी प्रणाली का स्वामित्व छोड़ चुके हैं।

बेशक, इसका मतलब यह नहीं है कि सभी परिदृश्यों में आपको घबराना चाहिए। बहुत हाल ही में, मुझे एक कोर्स रिकॉर्ड करने की आवश्यकता थी, और मुझे तीन ऐसे होटलों में से चयन करना था जिनके रेटिंग लगभग समान थे। मेरे पास उस समय अनगिनत ग्राहक समीक्षाओं को एक-एक करके पढ़ने का समय नहीं था, इसलिए मैंने इस निर्णय को पूरी तरह से एक AI को सौंप दिया। परिणाम बहुत संतोषजनक रहा, और अगली बार जब मुझे ऐसी स्थिति का सामना करना पड़ेगा, तो मैं फिर से ऐसा ही करूँगा।

लेकिन, मूलभूत संपत्ति निवेश, बच्चों के करियर योजनाबद्ध करने, या काम में यह तय करने के समय कि कौन सी सुविधा विकसित करनी है, कौन से वास्तविक उपयोगकर्ता प्रभावित होंगे, और कोड सुरक्षित लाइव लेवल पर पहुँच गया है या नहीं, मैं कभी भी निर्णय लेने का अधिकार किसी और को सौंपने की हिम्मत नहीं करूँगा। जहाँ गलतियों की लागत कम हो, वहाँ आप आज़ादी से हस्तांतरण कर सकते हैं; लेकिन जहाँ दूसरों को परिणामों का खर्च उठाना पड़ता है, वहाँ आपको मानवीय तर्क को सख्ती से संजोए रखना चाहिए।

जब मैं पहले अपने विचारों में भ्रमित होता था, तो मैं आमतौर पर एक अत्यंत सरल आधारभूत प्रश्नों की सूची पर वापस आ जाता था: मैं कैसे जानता हूँ कि मैं सही समस्या को हल कर रहा हूँ? मैं कैसे जानता हूँ कि मैं समाधान के लिए सही दृष्टिकोण अपना रहा हूँ? क्या मेरे निष्कर्षों का समर्थन करने के लिए कोई निश्चित, वस्तुनिष्ठ साक्ष्य है? मैं कैसे सुनिश्चित करूँ कि यह कार्य पूरी तरह से पूरा हो गया है? अधिकांश समय, यह केवल पत्रकारिता के प्रसिद्ध पाँच W (कौन, क्या, कहाँ, क्यों, कब और कैसे) के सिद्धांत होते हैं। कागज पर लिखे जाने पर, वे बचकाना और बेकार लगते हैं, लेकिन वे आपको उन सामान्यतः उपेक्षित अंधेरे कोनों से समीक्षा करने के लिए मजबूर करते हैं।

आज के इस युग में, लोग इन सभी कठिन विचारों को छोड़कर सीधे एजेंट से पूछने की ओर झुक रहे हैं कि "आपको लगता है मुझे क्या करना चाहिए?" इसलिए, मैंने एजेंट युग के लिए अपनी एक नई प्रतिबिंब सूची अपडेट की है:

क्या मैंने प्रश्न पूछने से पहले अपनी प्रारंभिक धारणा बना ली है? किसी भी गैर-तुच्छ कार्य को स्मार्ट एजेंट द्वारा संभालने से पहले, मैं अपने मन में (या एक नोट पर) अपने विचार को लिखने के लिए खुद को मजबूर करता हूँ कि उत्तर कहाँ जा सकता है। यह एक खुरदरा या खराब अनुमान भी हो सकता है। नए जानकारी को देखने के बाद, आपके पास किसी भी समय अपना मत बदलने और इसे नकारने का अधिकार है। लेकिन जब तक आप किसी अत्यधिक सुंदर और प्रवाहमय उत्तर को नहीं पढ़ते, तब तक आपके मन में कोई अन्य संभावना की कल्पना करना मुश्किल हो जाता है। यदि आपके पास कोई संकेत नहीं है, तो Thariq Shihipar द्वारा "अज्ञात-अज्ञात प्रश्न" कहलाने वाली पद्धति का प्रयास करें: अपने सभी ज्ञात तथ्यों को साझा करें, और मॉडल को सीधे उन अज्ञात-अज्ञात मुद्दों को खोजने के लिए प्रेरित करें।

• क्या मैं इसे अपने विचारों को सहायता देने के लिए उपयोग कर रहा हूँ, या क्या मैं अपने विचार करने की प्रक्रिया को इसे सौंप रहा हूँ? इन दोनों अवस्थाओं की अनुमति है, लेकिन आपको पूर्ण रूप से सचेत रहना होगा और स्पष्ट रूप से जानना होगा कि आप वर्तमान में किस अवस्था में हैं।

• इस योजना को पूरी तरह से असफल करने के लिए क्या-क्या पूर्वशर्तें होनी चाहिए? इसे स्पष्ट करने के बाद, तुरंत वास्तविक रूप से जांचने के लिए कार्रवाई करें। मॉडल अपने उत्तर की आत्म-आत्मविश्वास की आंकलन का बहुत कम ही मूल्य होता है, इसलिए इसे एक वास्तविक परीक्षण का सामना कराएं।

• क्या मैंने विपरीत दृष्टिकोण से विपरीत तर्क सुने हैं? जब मैं किसी खुले प्रश्न पर एक मजबूत स्थिति बना लेता हूँ, तो मैं मॉडल से एक आलोचनात्मक विरोधी के रूप में कार्य करने का अनुरोध करता हूँ, जो मुझे उस स्थिति के खिलाफ सबसे मजबूत विरोधी तर्कों की सूची बनाने के लिए विशेष रूप से आमंत्रित करता है। यह जरूरी नहीं कि मेरे निर्णय को उलटने के लिए हो, बल्कि इसलिए है कि मुझे उन हानिकारक अंधेरे क्षेत्रों का सामना करने के लिए मजबूर किया जाए, जिन्हें मैं सामान्यतः सुखद परिस्थितियों में अनजाने में फ़िल्टर कर देता हूँ।

• अगर मुझे इस परिणाम के लिए अपने आप को बचाना पड़े, तो मैं क्या कहूं? कृपया अभी एआई विंडो बंद कर दें और अपनी अपनी सरल भाषा में सहकर्मी को इस योजना की व्याख्या करने की कोशिश करें। अगर आप पाते हैं कि आप बोलते समय उलझ रहे हैं या समझा नहीं पा रहे हैं, तो इसका मतलब है कि आपने इसे अभी तक पूरी तरह समझा नहीं है, और आप केवल एआई के मुँह का बोलबाला कर रहे हैं।

पैसिव रीडिंग मोड में, आपका मस्तिष्क केवल दिए गए पाठ के अनुसार बिना किसी गतिविधि के फिसलता है और जानकारी के प्रवाह को बेचैनी से स्वीकार करता है। चूंकि एजेंट द्वारा उत्पन्न पाठ आमतौर पर बहुत बहुत सुचारु, सुंदर शैली में और व्याकरणिक रूप से त्रुटिहीन होता है, इसलिए पैसिव रीडिंग के इस परिवेश में आपको यह भ्रम हो सकता है कि आपने सार को पूरी तरह समझ लिया है। यह ऐसा है जैसे आप किसी तकनीकी सम्मेलन में टेबल पर एक शीर्ष वक्ता के सुचारु आर्किटेक्चर डेमो को देख रहे हों, और आप कक्षा में सिर हिलाते हुए इसे स्वाभाविक समझते हों, लेकिन जब आप होटल में लौटकर खाली एडिटर खोलते हैं, तो आप पाते हैं कि आप पहली पंक्ति कोड भी नहीं लिख पा रहे हैं।

सक्रिय पढ़ना एक विरोधी मान्यता के साथ जांच करने का कार्य है। यह केवल इस बात पर ध्यान देता है कि पाठ में क्या लिखा गया है, बल्कि इसे कठोरता से पूछता है: यह यहाँ क्यों लिखा गया? यह किन मूल कठिनाइयों से बच रहा है? यह इस समाधान को दूसरे के बजाय क्यों चुन रहा है?

मैं आमतौर पर बुद्धिमान एजेंट द्वारा उत्पादित लंबे समाधानों को पढ़ते समय दो अत्यंत स्पष्ट आलोचनात्मक दृष्टिकोणों के साथ देखता हूँ:

सबसे पहले, उन "अनुपलब्ध संदर्भों" को ढूंढें: इसकी डिफ़ॉल्ट धारणाएँ क्या हैं? क्या यह कुछ सीमांत मामलों को छोड़ रहा है? जब दो आवश्यकताएँ टकराती हैं, तो यह मेरे लिए किस सिद्धांत पर चुनाव करता है?

दूसरा, सक्रिय रूप से "प्रतिकूल प्रश्न" उठाएं: यदि समानांतर एक्सेस लोड अचानक दस गुना बढ़ जाए, तो यह डिज़ाइन कैसे टूट जाएगा? यदि कोई तीसरे पक्ष की बाहरी निर्भरता सेवा आधे घंटे के लिए बंद हो जाए, तो सिस्टम में क्या श्रृंखलाबद्ध आपदा होगी? बजाय इन सभी पहले से तैयार उत्तरों को पढ़ने के, अपने हाथों में स्कैल्पल उठाएं और इसकी दबाव परीक्षा करें।

एजेंट का उपयोग केवल लंबे लेख लिखने के लिए ही नहीं, बल्कि आपकी गहन आलोचनात्मक पढ़ाई में मदद करने के लिए भी किया जा सकता है। मुख्य बात यह है कि आपको इससे केवल सभी के लिए संतोषजनक निष्कर्ष प्राप्त करने के बजाय, पीछे की विभाजनों और दरारों को प्रकट करने के लिए कहना चाहिए:

आप इसे दो ऐसी विरोधी आर्किटेक्चर डिज़ाइन के बीच क्रॉस-परीक्षण के लिए उपयोग कर सकते हैं, जिससे पता चले कि दोनों ओर क्या समझौता किया गया है; आप इसे कड़वे कोड रिव्यूअर की भूमिका में डाल सकते हैं, जो केवल उन कोड्स को ही चुनता है जो परीक्षण से गुजर जाते हैं, लेकिन भविष्य के मेंटेनेंस के लिए खतरे का कारण बनते हैं; आप इसे लंबे पाठ आउटपुट के बाद, यादृच्छिक रूप से मध्य से तीन विस्तार चुनने के लिए भी प्रेरित कर सकते हैं, और आपसे पूछ सकते हैं कि क्या आपने वास्तव में संदर्भ को समझा है।

अपने विचारों के लिए एजेंट को एक चकमक के रूप में उपयोग करें, न कि एक विकल्प के रूप में।

कोड लिखना और कोड की समीक्षा करना पूरी तरह से अलग-अलग बौद्धिक कौशल हैं। विशाल मात्रा में उत्पादित कोड के सामने, मानवीय समीक्षा थकान के कारण आँखें बंद करके मुहर लगाने वाले “रबर स्टैम्प” में बदल जाती है।

इसलिए कोड बदलाव (Diff) की समीक्षा करते समय, कृपया यह मानकर चलें कि यह कोड किसी अति-शक्तिशाली AI द्वारा नहीं, बल्कि एक हाल ही में शामिल हुए इंटर्न द्वारा सबमिट किया गया है। इससे भी अधिक महत्वपूर्ण, केवल कोड की जोड़ी गई या हटाई गई पंक्तियों पर ध्यान केंद्रित न करें, बल्कि सतही कोड के पीछे जाकर पूछें कि एजेंट ने आपके लिए पीछे से कौन-से महत्वपूर्ण सूक्ष्म निर्णय लिए हैं: इसने कौन-से डिफ़ॉल्ट मान चुने? इसने कौन-सी जटिल लॉजिक को इस सीमा से चुपचाप हटा दिया? जब दो उत्पाद आवश्यकताएँ टकराती हैं, तो इसने किसे गुप्त रूप से पुनः व्याख्या किया?

अगर कोई रिपोर्ट बस इतना ही कहती है कि "सब कुछ ठीक है, सभी टेस्ट पास हो गए", तो आप कभी भी किसी भी महत्वपूर्ण निर्णय के अंदरूनी विवरण नहीं देख पाएंगे। इसलिए, स्पष्ट रूप से इसकी मांग करें कि यह एक अलग सूची प्रस्तुत करे: जिसमें इस कार्य के दौरान इसने कौन-सी विषयगत मान्यताएँ और समझौते किए हैं, उनका विवरण हो। फिर, अपने आप को यादृच्छिक रूप से परखें: कुछ यादृच्छिक रूप से चुने हुए दो-तीन पंक्तियों को घेरें और स्वयं से पूछें कि आपने इन्हें इसलिए क्यों लिखा? अगर यह एक डिज़ाइन दस्तावेज़ होता, तो पेज बंद करके, पूरी तरह से याददाश्त से किसी और को इसका मुख्य तर्क समझाने का प्रयास करें। मुझे कुछ टीमों द्वारा अपनाई गई एक कठोर नीति बहुत पसंद है: स्मार्ट एजेंट को परिवर्तन रिपोर्ट के अंत में एक स्व-परीक्षण प्रश्नावली संलग्न करनी होती है, और टीम का कठोर नियम है—"जब तक मैं परीक्षण प्रश्नों में 100% सही उत्तर नहीं देता, तब तक कोड को मर्ज नहीं किया जाएगा।"

अपने द्वारा लॉन्च किए गए उत्पाद को गहराई से समझें और आत्मविश्वास से उसका समर्थन करने की तैयारी रखें, क्योंकि भविष्य में किसी न किसी दिन कोई सवाल लेकर आएगा।

इसी बीच, एजेंट हमारे लिए मूल्यवान ध्यान की रक्षा भी कर सकते हैं। उदाहरण के लिए, मैं एक बड़े ओपन सोर्स प्रोजेक्ट का संचालन करता हूँ जिसमें बहुत सारे Pull Request आते हैं। मैं अपने एजेंट को प्रारंभिक छानबीन के लिए नियुक्त करता हूँ: यह पहचानने के लिए कि कौन से सबमिशन समुदाय योगदान मानदंडों का उल्लंघन करते हैं और कौन से पर मुझे विशेष ध्यान केंद्रित करने की आवश्यकता है। मैं कभी भी एजेंट को मर्ज करने या न करने का निर्णय लेने के लिए नहीं दूंगा, लेकिन वे मुझे ध्यान के संकुचित फ़िल्टर में मदद कर सकते हैं, ताकि मैं अपना मानवीय संज्ञानात्मक बैंडविड्थ केवल “क्या ये परिवर्तन सचमुच सही समस्या को सही तरीके से हल कर रहे हैं?” पर केंद्रित कर सकूँ।

अंत में, उत्पादन के विस्फोट से उत्पन्न मानसिक आत्मविश्वास का सामना करना अनिवार्य है। मैं इसे “संगठन कर” (Orchestration Tax) कहता हूँ, जो मूल रूप से एजेंट्स द्वारा उत्पादित औद्योगिक मात्रा और आपके ऐसे उत्कृष्ट उत्पादों की मात्रा के बीच विशाल अंतर है, जिन पर आप अपना नाम लगाने के लिए सच्चे मन से तैयार हैं। यदि उत्पादन का संचय आपकी सूक्ष्म समीक्षा की शारीरिक सीमा से कहीं अधिक तेजी से हो रहा है, तो एक नया समानांतर सत्र शुरू करने से कोई मदद नहीं होगी: आपको या तो स्वचालित सत्यापन प्रक्रिया को संकुचित करना होगा, या फिर जल्दबाजी को स्पष्ट रूप से धीमा करना होगा।

जब आपका उत्पाद आपके जिम्मेदारी और समर्थन की सीमा से आगे निकल जाता है, तो आप विशेषज्ञ समीक्षा नहीं कर रहे हैं, बल्कि केवल इस आशा में प्रार्थना कर रहे हैं कि कुछ गलत न हो।

मानव और मशीन के सहकार्य प्रणाली में, मानवीय मानसिक मॉडल लुप्त नहीं होते, बल्कि उनका केंद्र स्थानांतरित हो जाता है: यह पहले के लंबे मध्यवर्ती कोडिंग चरण से, पूरी तरह से प्रारंभिक कार्य इनपुट और अंतिम उत्पादन स्वीकृति चरणों पर स्थानांतरित हो जाता है। आप अपनी सम्पूर्ण ज्ञानात्मक ऊर्जा प्रारंभिक कार्य विभाजन, संदर्भ प्रदान, और अंतिम कठोर ऑडिट बंद चक्र में लगा देते हैं। यही कारण है कि प्रॉम्प्ट (Prompting) की गुणवत्ता अंतिम परिणाम पर निर्णायक प्रभाव डालती है, मैं हमेशा उत्कृष्ट प्रॉम्प्ट इंजीनियरिंग को उच्च स्तरीय आलोचनात्मक चिंतन की मूलभूत कला मानता हूँ।

पिछले समय में, अगर आपने अपने मानव सहकर्मी को एक अस्पष्ट और धुंधली आवश्यकता फेंक दी, तो वह तुरंत आपको वापस धकेल देता, और आप अपने प्रश्नों के जवाब में समझ जाते: "मैंने वास्तव में इस मामले को स्पष्ट रूप से नहीं सोचा था।" हालाँकि, एजेंट अक्सर इस समय आपको रोकते नहीं। यह चुपचाप आपके द्वारा छूट गए सभी विवरणों को समझता है, और फिर एक ऐसा परिणाम प्रस्तुत करता है, जो सतही रूप से बहुत सुव्यवस्थित और पूर्ण प्रतीत होता है, हालाँकि पीछे की मूल इच्छा अभी भी अस्पष्ट ही होती है। मैं इस घटना को "इंटेंट डेबिट" (Intent Debt) कहता हूँ: वे छिपे हुए लक्ष्य और सीमाएँ, जो परिणाम में सुमिलित होते हैं, लेकिन जिन्हें आपने स्वयं कभी सचमुच परखा ही नहीं। अन्य कर्जों के विपरीत, कोई भी आपके लिए इंटेंट डेबिट का भुगतान नहीं कर सकता; मूल इच्छा 100% आपसे ही आनी चाहिए।

आपके द्वारा लिखे गए प्रॉम्प्ट, आपकी समस्या की समझ की गहराई का एक दर्पण हैं; यदि आप इसे स्पष्ट और सटीक भाषा में व्यक्त नहीं कर सकते, तो यह अक्सर इस बात का संकेत है कि यह आपके मन में स्वयं ही अव्यवस्थित है।

बाहरी कैलकुलेशन सहायता के लिए जाने से पहले, अपनी खुद की सरल और स्पष्ट भाषा में एक कार्य आवश्यकता अवलोकन तैयार करें। लक्ष्य दर्शकों को स्पष्ट रूप से निर्दिष्ट करें, पूर्णतः वरजित सीमाओं को परिभाषित करें, और पूर्णतः पूरा होने के लिए वस्तुनिष्ठ स्वीकृति मानदंड (Definition of Done) प्रदान करें। जब दूसरी संशोधन चक्र भी अपेक्षित परिणाम नहीं देता, तो निरंतर सूक्ष्म समायोजनों को तुरंत बंद कर दें और अपने इनपुट प्रॉम्प्ट को पूरी तरह से पुनः लिखें।

आप अपनी इनपुट की गुणवत्ता को बेहतर बनाने के लिए एजेंट का उपयोग भी कर सकते हैं। दार्शनिक एंडी क्लार्क ने “कार्य को AI को एकदिशा अर्पित करना” और “AI के साथ गहन द्विदिशा सहयोग करना” के बीच गहरा अंतर किया है। वास्तविक सहयोग मॉडल में, आप एक पारस्परिक सशक्तिकरण वाले सकारात्मक फ्लाइव्हील में प्रवेश करते हैं: आपके सटीक प्रॉम्प्ट्स उत्कृष्ट परिणाम उत्पन्न करते हैं, और ये परिणाम फिर से अधिक गहन प्रॉम्प्ट्स को प्रेरित करते हैं, जिससे अंततः आपका सिस्टम के प्रति मानसिक मॉडल गहरा होता है। यदि आपको संदेह है कि आपकी तर論 सम्पूर्ण है या नहीं, तो एजेंट से आपके खिलाफ प्रश्नोत्तरी करवाएं, जिससे वह उन अज्ञात क्षेत्रों के बारे में पूछ सके जिन्हें वह समझ नहीं पा रहा है। यदि किसी संवाद के अंत में, आपके मन में तर論 का बंद चक्र सुधर जाता है, तो ही यह सच्ची सफलता का संकेत है।

इसके अलावा, संदर्भ प्रदूषण के प्रति अत्यधिक सावधान रहना आवश्यक है। जब कई बुद्धिमान एजेंट सहयोग करते हैं, तो आमतौर पर अगला एजेंट केवल पिछले एजेंट के संक्षिप्त सारांश पर आधारित कार्य करता है, जिससे स्तर दर स्तर गिरावट आती है, और तीसरा एजेंट मूल महत्वपूर्ण दस्तावेज़ को कभी पढ़े बिना ही रह जाता है।

इसी बीच, आपको अपनी खुद की सौंदर्य और गुणवत्ता की सीमा तय करनी होगी। मैंने AI का परीक्षण विभिन्न क्रिएटिव और इंजीनियरिंग क्षेत्रों में बार-बार किया है, और अधिकांश आउटपुट कभी प्रकाशित नहीं हुए क्योंकि वे मेरे व्यक्तिगत मानकों को पूरा नहीं करते थे। आज के समय में, सभी मॉडल आउटपुट को बेहद सुंदर ढंग से फॉर्मेट किया जा सकता है और आत्मविश्वास से प्रस्तुत किया जा सकता है, इसलिए "सतही चमक" अब गुणवत्ता का प्रभावी संकेत नहीं है।

AI शायद सामग्री उत्पादन की प्रक्रिया की गति को बहुत बढ़ा देता है, लेकिन जब तक कोई उत्पाद मुझे अपना नाम लगाने के लिए अपमानजनक नहीं लगता, मैं इसे बाहर जाने नहीं दूंगा।

जब कोई आउटपुट मानकों को पूरा नहीं करता है, तो विफलता के विशिष्ट कारणों को साझा कॉन्फ़िगरेशन फ़ाइल, Git हुक या स्वचालित परीक्षण मामलों में स्पष्ट रूप से दर्ज करें, ताकि ऐसी ही गलतियाँ कभी दोहराई न जाएँ। यही स्वाद और मानकों के चक्रवर्ती संचय का सही मार्ग है, और यह समझना कि क्या कुछ मानदंडों को पूरा नहीं करता है, खुद में एक अत्यंत मूल्यवान ज्ञान का अभ्यास है।

अगर आप अपने आसपास के कई उत्साही पेशेवरों की तरह AI के भविष्य के प्रति एक मजबूत बुलिश विश्वास रखते हैं, तो आपने शायद पहले कुछ अध्यायों को पढ़ते ही यह विचार उठाया होगा: "अगले एक या दो साल में, मॉडल की सुधार और दृष्टि क्षमता मुझे पूरी तरह से पीछे छोड़ देगी, तो मुझे इस आलोचनात्मक समीक्षा कौशल को बनाए रखने के लिए इतना परिश्रम क्यों करना चाहिए?"

कई शुद्ध तकनीकी संकेतकों की जांच में, आपका पूर्वानुमान पूरी तरह सही हो सकता है, और मैं खुद भी बढ़ते हुए स्वचालित जांच के अधिकार को एजेंट्स को सौंपने का समर्थन करता रहा हूँ। लेकिन भविष्य में इस क्षमता को क्यों अत्यंत महत्वपूर्ण बनाए रखना चाहिए? कारण केवल एक ही है: अंततः, वास्तविक परिणामों के लिए पूरी जिम्मेदारी लेने के लिए एक वास्तविक, रक्त-और-हड्डी वाला व्यक्ति ही होना चाहिए। जितनी भी कैलकुलेशन क्षमता पीछे काम कर रही हो, अंततः न्यायालय में आए या परिणामों का जवाबदेह बनने वाला केवल एक वास्तविक मनुष्य ही होगा।

किसी विशिष्ट कार्य में एजेंट को कितना विश्वास देना है, यह निर्णय लेना स्वयं एक अत्यधिक बुद्धिमानी वाला गुणात्मक निर्णय है। और सटीक समायोजन की क्षमता को सदैव बनाए रखने के लिए, आपको लगातार स्वयं कार्यों की समीक्षा करनी होगी, क्योंकि मॉडल की त्रुटियों के अजीब पैटर्न सदैव गतिशील रूप से बदलते रहते हैं। Anthropic ने अपने शीर्ष इंजीनियरों और शोधकर्ताओं पर किए गए अध्ययन में इस “निरीक्षण का परadox” (Paradox of Supervision) के घातक जाल को स्पष्ट रूप से उजागर किया है: Claude को नियंत्रित करने के लिए आवश्यक उच्चस्तरीय इंजीनियरिंग और आर्किटेक्चरल कौशल, वे ही मूलभूत कौशल हैं जो मानवीय समुदाय द्वारा AI पर अत्यधिक निर्भर होने के कारण सबसे तेजी से कमजोर हो रहे हैं।

ये अंतिम प्रश्न मैं सबसे अधिक महत्व देता हूँ, और जितने भी शक्तिशाली मॉडल हैं, वे आपके लिए कभी भी इनका उत्तर नहीं दे सकते: आप इस उत्पाद को क्यों बना रहे हैं? इसका सामाजिक और व्यावसायिक मूल्य क्या है? यह किन विशिष्ट लोगों को गहराई से प्रभावित करेगा? इसे पूरा करने के लिए आप कितनी कीमत चुकाने और समझौते करने को तैयार हैं? इन सभी प्रश्नों के उत्तर आपको ही देने होंगे। एजेंट इन प्रश्नों को समझने में अद्भुत भूमिका निभा सकते हैं, और मुझे ऐसा होना पसंद है, लेकिन अंतिम निर्णय का मुहर हमेशा केवल आपके हाथ में ही होगा।

आप विशिष्ट कार्यों और यहां तक कि बड़ी मात्रा में ऑडिट प्रक्रियाओं को पूरी तरह से एल्गोरिदम पर सौंप सकते हैं, लेकिन अंतिम जवाबदेही और जिम्मेदारी को आप कभी भी सौंप नहीं सकते।

आपको सभी नियमों का कठोरता से पालन करने की आवश्यकता नहीं है, केवल अपने कार्य प्रवाह के अनुकूल तरीकों को स्वाभाविक रूप से शामिल करें:

• साप्ताहिक ऑफ़लाइन जानबूझकर अभ्यास: हर सप्ताह एक निश्चित समय निकालें, एजेंट की सहायता से पूरी तरह दूर रहें, और एक महत्वपूर्ण कोड खंड को पूरी तरह से हाथ से लिखें, या एक ऐसी महत्वपूर्ण बिजनेस गतिविधि को स्वयं पूरा करें जिसकी अवहेलना से गंभीर परिणाम हो सकते हैं (मैं इसे संज्ञानात्मक समन्वय अभ्यास कहता हूँ, यह कोई नैतिक दबाव नहीं है)।

• मासिक क्षमता समीक्षा: प्रति महीने एक सूची तैयार करें और लिखें कि पिछले महीने में आपने AI पर निर्भरता के कारण कौन-से कार्य स्वयं नहीं किए। इनमें से कौन-सी क्षमताएँ आप वास्तव में स्थायी रूप से भूलने के लिए सहज महसूस करते हैं? मैंने कई वर्षों पहले एक पुराने ब्लॉग में जो प्रश्न उठाया था, वह आज भी प्रासंगिक है: अगर कभी AI अचानक पूरी तरह से गायब हो जाए, तो आप कितने गहरे अक्षमता और भ्रम में पड़ जाएँगे?

• जहाँ कुछ समझ न आए, वहाँ खुद गहराई से जाँचें: यदि कोई ऐसी अवधारणा मिले जो आपकी वर्तमान समझ से परे हो, तो उसे व्यवस्थित रूप से सीखना अनिवार्य है। यदि मैं एक लेख लिखते समय कोई अज्ञात शब्द पाता हूँ, तो मैं विकिपीडिया से एक पहले से तैयार परिभाषा को सीधे पाठ में शामिल कर सकता हूँ, लेकिन मैं इसके बजाय कुछ समय निकालकर एक गहन सूक्ष्म अनुसंधान करना पसंद करता हूँ, ताकि मैं इसके कारण और परिणाम को समझ सकूँ, और इसे ज्ञान के समग्र प्रतिमान में इसकी स्थिति को पूरी तरह से समझ सकूँ।

• रिव्यू मशीन को एक वास्तविक कार्य के रूप में समय सारणीबद्ध करें: मशीन द्वारा उत्पादित सामग्री की वास्तविक और गंभीर जांच स्वयं एक अत्यंत भारी बौद्धिक प्रयास है। इस कार्य को आसान मानना ही उन टीमों का मुख्य कारण है जो अंततः जांच को पूरी तरह छोड़ देती हैं और भयानक समस्याओं का कारण बनती हैं। जांच मुफ्त भोजन नहीं है; इसे अपनी दैनिक कार्य सूची में स्पष्ट रूप से शामिल करें, ताकि आप इसे वास्तव में पूरा करने के लिए पर्याप्त ऊर्जा बचा सकें।

• लंबे समय तक बंद किए गए कौशल तेजी से खो जाते हैं: जिन ज्ञानात्मक कौशलों को आप लंबे समय तक नहीं इस्तेमाल करते, वे तेजी से कमजोर हो जाते हैं, और इसका अवक्षय आपकी अनुमानित सीमा से कहीं अधिक होता है। अपने मूलभूत कौशलों को हमेशा स्वयं अभ्यास करते रहें, जिन्हें आप कभी छोड़ने को तैयार नहीं हैं।

• स्पष्ट इरादे को बनाए रखें: एजेंट पूरी तरह से आपका विपरीत परीक्षण कर सकता है, आपका साक्षात्कार ले सकता है और आपको नींव के तर्क दिखा सकता है, लेकिन यह केवल तभी संभव है जब आप इस सहयोगात्मक तंत्र को सक्रिय रूप से डिज़ाइन और कॉन्फ़िगर करते हैं। इसलिए, कृपया तुरंत इसे स्थापित करें।

• अपने स्पेक्ट्रम में असली भूमिका के प्रति ईमानदार रहें: यदि आप बिना किसी एजेंट के सुझाव के दूसरों को उत्तर के पीछे की तर्कयुक्त व्याख्या देने में सक्षम नहीं हैं, तो स्वीकार करें: आपने ज्ञानात्मक शरणागति कर ली है।

• हमेशा पूर्वनिर्धारित मान्यताओं के साथ प्रश्न पूछें: AI को प्रश्न पूछने से पहले, अच्छा या बुरा, अपने मन में अपना अनुमान तैयार कर लें।

• एक हरा चिह्न केवल एक परीक्षण सफल होने का संकेत देता है: हमेशा पूछें: इसने वास्तव में क्या जांचा? इसने क्या चुपचाप छोड़ दिया?

• पहले वस्तुनिष्ठ तर्कों को देखें, फिर व्यक्तिगत निष्कर्ष पढ़ें: इसके द्वारा दिए गए शानदार सारांश को पढ़ने से पहले, इसने वास्तव में कौन से निर्देश निष्पादित किए हैं और कौन से नींव के डेटा को कॉल किया है, इसे पंक्ति दर पंक्ति समझें।

• निर्णयों के प्रति संवेदनशीलता के साथ पढ़ें: समझें कि एजेंट ने इस आउटपुट में आपके लिए कौन से सूक्ष्म निर्णय अकेले ले लिए हैं।

• अपने इनपुट प्रॉम्प्ट को सूक्ष्मता से बेहतर बनाएं: आप जितनी गहराई और संरचना के साथ प्रॉम्प्ट लिखते हैं, वह आपकी समस्या की मूलभूत समझ का प्रत्यक्ष प्रतिबिंब होता है।

• एक निरपेक्ष डिलीवरी स्टैंडर्ड स्थापित करें और उसे कड़ाई से बरकरार रखें: अगर आप खुद इस चीज़ पर अपना नाम लगाने के लिए अपराधी महसूस करते हैं, तो इसे कभी मंजूर न करें।

अपने महत्वपूर्ण मूल कौशलों को निरंतर स्वयं अभ्यास करके, हमेशा खेल के केंद्र में बने रहें। आप दैनिक जीवन में तुरंत आजमा सकते हैं एक न्यूनतम सूक्ष्म आदत: बुद्धिमान एजेंट को प्रश्न पूछने से पहले, एक नोट पर अपने अनुमानित संभावित परिणाम लिखें; जब एजेंट कार्य पूरा कर दे, तो तुरंत एक बिंदु लिखें जिसे यह नहीं कवर कर पाया। देखें कि यह सूक्ष्म प्रतिरोधी आदत, आपके AI के उत्पाद को देखने की विचार प्रक्रिया की गहराई को पूरी तरह से कैसे बदल सकती है। स्वतंत्र रूप से सोचें, अधिक प्रभावी गुणवत्तापूर्ण प्रश्न पूछें, और अंतिम परिणाम के लिए पूर्ण जिम्मेदारी लें।

चित्र: AI एजेंट वर्कफ्लो में स्वतंत्र विचार और जिम्मेदारी के बंद चक्र को बनाए रखना