एआई हॉलूसिनेशन मानव निर्णय और आत्मविश्वास को कमजोर करते हैं

नवीनतम शोध से पता चला है कि AI के भ्रम केवल आपको धोखा देने ही नहीं, बल्कि आपकी आत्मविश्वास को बढ़ाकर और आपकी निर्णय लेने की क्षमता को कमजोर करके भी सकते हैं।

यह अच्छा नहीं है।

हाल ही में, पेरिस एन्सेन नॉरमल, रोम प्रथम विश्वविद्यालय, मिलान बिकोका विश्वविद्यालय के एक अध्ययन ने पाया:

बिना एआई के, लोग "मुझे नहीं पता" को अधिक स्पष्टता से स्वीकार करते हैं, और पहले निर्णय टाल देते हैं;

लेकिन जब AI आ जाता है, तो भले ही लोगों को पता हो कि यह गलतियाँ करता है, भले ही गलत उत्तर देने पर दंड मिले, अधिकांश लोग अपने निर्णय के रूप में AI के उत्तर को स्वीकार कर लेते हैं और आत्मविश्वास के साथ उन्हें बोल देते हैं।

परिणामों ने इस रुझान को स्पष्ट रूप से दर्शाया: पहले AI-रहित प्रयोग में, "मुझे नहीं पता" कहने वालों का प्रतिशत 44% था और सही उत्तर की दर 27% थी;

AI सहायता के उपयोग के बाद, अज्ञातता का प्रतिशत 44% से घटकर 3% हो गया, सही उत्तर का प्रतिशत 27% से घटकर 9% हो गया, लेकिन आत्मविश्वास 30% से बढ़कर 76% हो गया।

हालांकि बाद के प्रयोगों ने “सही उत्तर पर पैसा देना, गलत उत्तर पर जुर्माना लगाना” जैसे पुरस्कार-दंड प्रणाली के माध्यम से लोगों को स्वतंत्र निर्णय लेने के लिए प्रोत्साहित करने और इस प्रवृत्ति को सुधारने का प्रयास किया, लेकिन लोग अभी भी AI के गलत सुझावों पर निर्भरता से बचने में असमर्थ रहे।

यानी, जो लोग नहीं समझते, वे वास्तव में गायब नहीं हुए हैं, बल्कि AI के समर्थन से आत्मविश्वासी हो गए हैं और गलत उत्तर दे रहे हैं।

वर्तमान में, संबंधित शोध परिणाम arxiv पर प्रकाशित किए गए हैं, टीम ने कुल 5 प्रयोग किए हैं, जिनमें 3132 भागीदार शामिल थे, जिनमें से 4 प्रयोग पूर्व-पंजीकृत थे और 1 प्रत्यक्ष पुनरावृत्ति प्रयोग था।

यह अध्ययन “AI का मानव निर्णय लेने की क्षमता पर प्रभाव” पर केंद्रित है।

शोधकर्ता वैलेरियो कैप्रारो ने साक्षात्कार में कहा:

मनुष्यों के लिए “मुझे नहीं पता” कहना बहुत महत्वपूर्ण है, क्योंकि इससे हम अपने ज्ञान की सीमाओं को समझने की क्षमता दर्शाते हैं।

But now, with AI, almost any question can instantly get a fluent answer.

तो सवाल यह है कि क्या यह मानवीय निर्णय क्षमता को बाधित करेगा? अर्थात, अनिश्चितता के समय, निष्कर्ष निकालने से पहले प्रतीक्षा करना?

To this end, the research team specifically designed a set of questions that large language models are likely to answer incorrectly.

यह गणितीय तर्क का प्रश्न नहीं है, न ही सामान्य ज्ञान का प्रश्न, बल्कि फिल्म में दृश्य विवरणों का प्रश्न है।

जैसे कि फिल्म "मैं बेकरम को प्यार करता हूँ" में टीम की यूनिफॉर्म का रंग क्या है? "बुडापेस्ट ग्रैंड होटल" में अगाथा का प्रसिद्ध बालों का शैली क्या है? या "हाईवे पर एक बिल्ली" में मोनिका किस कार को चला रही है आदि।

क्या आपको याद है? मुझे तो लंबे समय तक याद नहीं आया, यह बहुत कठिन है! कोई इसे कैसे याद रखेगा... (हाथ फैलाकर)

AI के लिए भी यह बहुत परेशानी वाला मामला होगा, क्योंकि इन प्रश्नों के उत्तर अक्सर सामान्य टेक्स्ट सामग्री में नहीं होते हैं, और मॉडल के प्रशिक्षण डेटा में इन दृश्य विवरणों की संभावना बहुत कम है।

शोधकर्ताओं ने पहले प्रयोग में उपयोग किए जाने वाले मॉडल Step 3.5 Flash का परीक्षण किया, और परिणाम अपेक्षित थे—यह आमतौर पर गलत उत्तर देता है।

इसके अलावा, उन्होंने GPT-5.5, Claude Sonnet 4.6 और Gemini 3.5 Flash सहित अधिक अग्रणी मॉडलों का परीक्षण किया।

ये उन्नत मॉडल वास्तव में कुछ प्रश्नों पर बेहतर प्रदर्शन करते हैं, जैसे कि द ग्रेट बुडापेस्ट होटल में एगाथा के प्रसिद्ध बालों के लिए, GPT-5.5, Gemini 3.5 Flash और Claude Sonnet 4.6 सभी सही दिशा देते हैं: crown braid, milkmaid braid; यानी सिर के चारों ओर बुना हुआ बाल।

△

△

△

उदाहरण के लिए, "मैं बेकहम से प्यार करता हूँ" में टीम के यूनिफॉर्म के रंग, वे अधिकांशतः सफेद, लाल जैसी मुख्य जानकारियों को पकड़ पाते हैं।

लेकिन जब ऐसे प्रश्नों पर आते हैं जो विशिष्ट दृश्य स्मृति पर अधिक निर्भर करते हैं और ऑनलाइन पाठ सामग्री कम कवर करती है, तो मॉडल सामूहिक रूप से गलत होने लगते हैं, और प्रत्येक का गलत होना अलग-अलग तरीके से दिलचस्प होता है।

सबसे प्रसिद्ध उदाहरण है "हाईवे पर एक बिल्ली" में मोनिका द्वारा चलाई गई कार। सही उत्तर 2008 मॉडल की नीली Toyota Aygo है।

लेकिन GPT-5.5 ने इसे एक स्कूटर के रूप में बताया और इस कहानी को जोड़ा कि "वह इसे लेकर रोम के उपनगरों में घूमती थी, और बाद में पिज्जा स्टोर खोलने के बाद इसे डिलीवरी के लिए भी इस्तेमाल करती थी," साथ ही "Giovanni के समृद्ध शहरी जीवन के विपरीत उसकी सादगीपूर्ण, मजदूर वर्ग की जीवनशैली" जैसे सेटिंग्स भी शामिल किए।

लगता है कि यह त論理的 है और तर्कसंगत है, लेकिन वास्तव में यह केवल मॉडल द्वारा आपको तर्कसंगत लगाने के लिए बिल्कुल निर्मित झूठ है! (धोखा खा गए hhh)

जेमिनी 3.5 फ्लैश ने कहा कि वह मुख्य रूप से बस का उपयोग करती है और अपनी कार नहीं है, और विभिन्न विवरण और भी अधिक गलत हैं और उन्हें पहचानना कठिन है (जैसे कि मोनिका के सर्जियो की कार में सवार होने का कोई नियमित पैटर्न नहीं है, मॉडल ने अलग-अलग सवारी के घटनाक्रमों को एक अस्तित्वहीन सामान्यता में समेट दिया):

△

Claude Sonnet 4.6 ने इंटरनेट ऑटो डेटाबेस के आधार पर 2016 Toyota Auris Touring Sports Hybrid का अनुमान लगाया:

△

चरण 3.5 फ्लैश ने छल छुड़ा दिया और सीधे 2007 के फियाट 500 का जवाब दे दिया (एक नजर में ही झूठा है ना!)।

इन उत्तरों की समस्या यह नहीं कि वे गलत हैं, बल्कि वे इतने सच्चे लगते हैं कि उन्हें पहचानना मुश्किल है!

वे केवल सरल अज्ञानता नहीं हैं, वे "काल्पनिक पात्रों की परिभाषा, गलत कहानी के तर्क, और वाहन के उपयोग को जोड़कर" गलत उत्तर को बहुत पूर्ण ढंग से प्रस्तुत करते हैं, जो बहुत तर्कसंगत लगते हैं, लेकिन मूल तथ्य गलत है।

यही AI हॉलूसिनेशन का सबसे खतरनाक पहलू है—जहाँ मूल तथ्य ही सबसे महत्वपूर्ण बिंदु होते हैं, वह अपनी अज्ञानता और गलतियों को बहुत बेहतर तरीके से छिपा देता है, जिससे आपको लगता है कि वह सब कुछ जानता है।

प्रयोग मुख्य रूप से अधिक हल्के Step 3.5 Flash द्वारा पूरा किया गया, जिसमें Claude, GPT आदि शीर्ष मॉडल्स को शामिल नहीं किया गया।

फिल्म के विवरण पर 6 प्रश्न डिज़ाइन करना, अध्ययन डिज़ाइन में बहुत महत्वपूर्ण बिंदु है, क्योंकि बहुत से लोग जानते हैं कि ऐसे प्रश्नों का उत्तर AI अक्सर गलत या अविश्वसनीय ढंग से देता है।

शोधकर्ताओं का कहना है कि वे इस व्याख्या को अस्वीकार करना चाहते हैं कि "लोग AI की सुनते हैं, क्योंकि AI वास्तव में विश्वसनीय है।"

अगर लोग जानते हुए भी इन उत्तरों को अपनाते हैं, जबकि AI इनका अक्सर गलत जवाब देता है, तो समस्या केवल "तर्कसंगत निर्णय बाहरीकरण" नहीं है, बल्कि "निर्णय क्षमता वास्तव में AI द्वारा दबा दी गई है"।

अनुसंधान कुल 5 चरणों में विभाजित है।

पहले दो परीक्षणों में, हम मुख्य रूप से यह देख रहे थे कि AI सुझाव "मुझे नहीं पता" के अनुपात को प्रभावित करते हैं या नहीं।

अध्ययन 1a में, 314 भागीदारों को दो समूहों में बांटा गया था जिन्होंने 6 फिल्म संबंधी प्रश्नों के उत्तर दिए। (एक समूह में AI नहीं था, जबकि दूसरे समूह को AI से सहायता लेने का विकल्प था।)

परिणाम स्पष्ट है: बिना AI के, प्रतिभागियों ने 36% की दर से निर्णय लेने से इंकार कर दिया; AI उपलब्ध होने पर, यह दर घटकर 6% हो गई।

इसका मतलब है कि जब तक AI से पूछा जा सकता है, लोग स्पष्ट रूप से नहीं कहना चाहते कि उन्हें पता नहीं।

हालांकि, शोधकर्ता चिंतित हैं कि यहाँ एक तकनीकी व्यवधान हो सकता है, क्योंकि अध्ययन 1a में, AI उपकरण के लगभग 10% अनुरोधों का उचित रूप से प्रतिक्रिया नहीं दी गई।

इसलिए उन्होंने अध्ययन 1b भी किया।

इस बार शोधकर्ता एआई को वास्तविक समय में नहीं बुला रहे हैं, बल्कि एआई उत्तरों को पहले से उत्पन्न कर लेते हैं, ताकि प्रत्येक सहायता के लिए आवेदनकर्ता पूरा उत्तर देख सके।

परिणाम पुनर्निर्मित हो गए, AI के बिना 44% लोगों ने कहा “मुझे नहीं पता”; AI के साथ, केवल 3% रह गए।

कैप्रारो ने इस घटना को "जांच का निलंबित पतन" कहा। (AI के गंभीर ढंग से धोखे से, उसकी मूल पूर्वधारणाओं और विभिन्न धारणाओं की जांच करना भूल गए।)

अगला, शोधकर्ता ने पूछा: यदि गलत उत्तर के लिए कोई लागत होगी, तो क्या लोग सावधान हो जाएंगे?

इसलिए अध्ययन 2 में धन पुरस्कार और दंड के नियम शामिल किए गए।

इस चरण में कुल 812 प्रतिभागी शामिल हुए, जिन्हें चार समूहों में बांटा गया: AI सुझाव के साथ/बिना; धनराशि के पुरस्कार/दंड के साथ/बिना।

नियम यह है कि प्रत्येक सही उत्तर के लिए 0.1 डॉलर (लगभग 0.73 युआन) का पुरस्कार दिया जाएगा, गलत उत्तर के लिए 0.1 डॉलर काट लिया जाएगा, और "नहीं जानता" कहने पर कोई पुरस्कार या कटौती नहीं होगी।

理论上，虽然钱不算多，但答错是有成本的，人们应该更谨慎。

लेकिन परिणाम दर्शाते हैं कि पैसा वास्तव में कुछ मदद करता है, लेकिन AI के प्रभाव को भरपाई करने के लिए अभी बहुत कम है:

बिना किसी धनराशि के पुरस्कार या दंड के, AI उपयोग करने से "मुझे नहीं पता" का अनुपात 17% से घटकर 1% हो जाता है।

जब धनराशि के पुरस्कार और दंड के नियम होते हैं, तो AI का उपयोग अभी भी इस अनुपात को 21% से 2% तक घटा देता है।

दूसरे शब्दों में: परीक्षण परिणाम दर्शाते हैं कि भले ही लोगों को पता हो कि गलत उत्तर पर पैसे काटे जाएंगे और ऐसे प्रश्नों में AI विश्वसनीय नहीं है, अधिकांश लोग अपने निर्णय के बजाय AI के उत्तर पर भरोसा करते हैं।

More importantly, accuracy.

बिना AI के, सही दर लगभग 28% थी; AI के साथ, सही दर केवल 10% रह गई।

यह साबित करता है कि कुछ लोग जानते हुए भी AI के द्वारा दिए गए उत्तर को अपना लेते हैं, जबकि AI में भ्रम होता है।

धन पुरस्कार और दंड नियमों के शामिल होने के बाद, सटीकता में सुधार हुआ:

बिना AI के, 28% से 33% तक; AI के साथ, 10% से 17% तक।

हालांकि AI समूह की सटीकता अभी भी AI रहित समूह की तुलना में स्पष्ट रूप से कम है, लेकिन यह नियम पूरी तरह बेकार नहीं है; यह कम से कम लोगों की AI से सहायता मांगने की आवृत्ति को कम करता है:

डेटा दर्शाता है कि पुरस्कार की शर्त के तहत, प्रतिभागियों द्वारा AI से सलाह लेने की औसत संख्या 5.44 से घटकर 4.93 हो गई।

इसका मतलब है कि पैसा लोगों को AI पर थोड़ा कम भरोसा करने और कम उपयोग करने के लिए मजबूर कर सकता है, लेकिन यह उन्हें AI के गलत सुझावों के प्रभाव से पूरी तरह मुक्त नहीं कर सकता, और लोगों को फिर से सावधानी से निर्णय लेने की स्थिति में लाना मुश्किल है।

सबसे अधिक विचार करने योग्य बात यह है कि AI के गलत उत्तर की स्थिति में लोगों की आत्मविश्वास में वृद्धि:

बिना AI के और बिना पुरस्कार या दंड धन नियमों के, प्रतिभागियों की औसत आत्मविश्वास 29.6% है।

AI के बाद, प्रतिभागियों का आत्मविश्वास सीधे 75.9% तक पहुंच गया; इसके अलावा, धनिक पुरस्कार और दंड नियमों के साथ, AI समूह का आत्मविश्वास 73.5% था।

इसके लिए, पेपर में सारांश बहुत सीधा है: AI अधिक आत्मविश्वास देता है, लेकिन जरूरी नहीं कि अधिक सटीक हो।

AI अब अभूतपूर्व गति से दैनिक जीवन में शामिल हो रहा है, एक स्पष्ट परिवर्तन यह है कि अब बहुत सारी AI सलाहें हमारे द्वारा पूछी गई नहीं, बल्कि यह स्वयं "आ जाती" हैं।

सबसे आम स्थिति है ट्रेंडिंग टॉपिक्स पर भरोसा करना।

पहले किसी विषय पर क्लिक करने के बाद, आपको खुद ही टिप्पणियों, मीडिया रिपोर्ट्स और पक्षों के प्रतिक्रियाओं के साथ-साथ समयरेखा बनाने के लिए घूमना पड़ता था, और इस दौरान कुछ विचलित मजाक भी खाने पड़ते थे।

अब अलग है, आप जैसे ही अंदर जाते हैं, AI द्वारा बनाया गया सारांश सबसे दिखाई देने वाली जगह पर ऊपर आ जाता है।

क्या हुआ, किसने क्या कहा, विवाद कहाँ है, और आगे क्या हुआ—सब कुछ आपके लिए स्पष्ट कर दिया गया है, साथ ही समाचार स्रोत के लिंक भी दिए गए हैं।

वास्तव में आसान है, लेकिन थोड़ा सूक्ष्म भी है...

जितना स्पष्ट तरीके से वह जानकारी को व्यवस्थित करता है, हमारी खुद से कहानी को समझने की प्रक्रिया उतनी ही छोटी हो जाती है, और पहले जैसे सबकी तलाश करने, खुद निर्णय लेने और अनजाने में अनोखी बातें ढूंढने का मज़ा भी लगभग समाप्त हो गया है।

जब आप कुछ लिखते हैं, तो आप दो पंक्तियों से भी कम टाइप करने से पहले ही AI द्वारा पूर्वानुमानित वाक्य या सुझाव आपके कर्सर के पीछे आ जाते हैं।

इसलिए, स्टडी 4 ने एक अधिक वास्तविकता के अनुकूल डिज़ाइन बनाया: प्रतिभागियों को यह चुनने नहीं दिया गया कि क्या वे AI से पूछें, बल्कि AI की सिफारिशों को सीधे प्रश्न के पास स्वचालित रूप से प्रदर्शित किया गया।

इस चरण में 853 प्रतिभागी थे, और परिणाम पिछले के समान थे।

बिना किसी धनराशि के पुरस्कार या दंड के, AI के स्वचालित उपस्थिति से "मुझे नहीं पता" का अनुपात 35% से घटकर 1% हो गया, जबकि नियमों के साथ यह 39% से घटकर 7% हो गया।

सटीकता अभी भी प्रभावित हो रही है: बिना AI के, सटीकता लगभग 27% थी, जबकि AI के साथ और प्रोत्साहन के बिना, सटीकता केवल 7% थी।

AI के साथ प्रोत्साहन जोड़ने के बाद, सटीकता 14% तक बढ़ गई।

यह बताता है कि भले ही व्यक्ति एआई की मदद के लिए सक्रिय रूप से अनुरोध न करे, बल्कि केवल एआई सुझावों को देखे, तब भी उस पर तीव्र प्रभाव पड़ता है।

यह एक ऐसा संकेत है जिसकी आपको सावधानी से निगरानी करनी चाहिए—AI हमारी निर्णय लेने की आदतों को चुपचाप बदल रहा है।

यह अब केवल एक ऐसा उपकरण नहीं रह गया है जो आपके द्वारा चैट बॉक्स खोलने पर ही प्रतिक्रिया देता है, बल्कि यह सिस्टम द्वारा आपको डिफ़ॉल्ट रूप से दिया गया "मानक उत्तर" बन गया है।

• यह खोज पृष्ठ के शीर्ष पर प्रदर्शित हो सकता है।
• ईमेल ड्राफ्ट में दिखाई देता है।
• दस्तावेज़ के साइडबार में दिखाई देता है।
• सीखने के सॉफ्टवेयर, ऑफिस सिस्टम और ब्राउज़र प्लगइन में दिखाई देता है।

जब उत्तर पहले से ही सामने आ जाता है, तो मानवीय निर्णय प्रक्रिया पहले ही बदल चुकी होती है; लेकिन सबसे डरावनी बात यह है कि हम इसके प्रति सामान्य हो चुके हैं।

पत्र में एक शब्द का उपयोग किया गया: एपिस्टीमिया (ज्ञानात्मक आलस्य)

इसे इस प्रकार समझा जा सकता है कि लोग एआई के उत्तर की सतही विश्वसनीयता को स्वीकार कर लेते हैं क्योंकि वे बहुत प्रवाहमय, पूर्ण और व्यवस्थित दिखते हैं, और इसे आगे सत्यापित नहीं करते।

भाषा मॉडल की एक मूल विशेषता यह है कि यह हमेशा कुछ उत्पन्न करने की कोशिश करता है। जब यह अपने बारे में नहीं जानता होता है, तो यह लगभग कभी वास्तव में रुकता नहीं है।

यह बहुत वास्तविक लग सकता है। लेकिन अगर हम वास्तव में ऐसे सिस्टम को निर्णय लेने का अधिकार देते हैं, तो हम उसकी "अनुरोध नहीं रोकने" की आदत को अपना सकते हैं।

एक व्याख्या यह है कि "एआई द्वारा दिए गए बहुत बहुत प्रवाहित उत्तर, मनुष्य के लिए 'मुझे पर्याप्त जानकारी है, मैं जवाब दे सकता हूँ' का निर्णय लेने की सीमा को कम कर देते हैं।"

आप मूल रूप से सोच सकते थे: "मुझे इस प्रश्न का जवाब नहीं पता, मुझे यकीन नहीं है, चलो छोड़ देते हैं... मुझे समझना होगा ताकि मैं जवाब दे सकूँ।"

लेकिन जब एआई आपको एक ऐसी बात देता है जो बहुत निश्चित लगती है, तो मनोवैज्ञानिक बाधा यह बन जाती है कि "चूंकि यह इतना कह रहा है, तो मैं भी जवाब दे सकता हूँ।"

इसलिए, "मुझे नहीं पता" और "खोज प्रक्रिया" को हटा दिया गया और एक "मानक लेकिन गलत उत्तर" से बदल दिया गया, और इस गलत उत्तर ने आपको वह उच्च आत्मविश्वास प्रदान किया जो आपको बार-बार खोज और सत्यापन के माध्यम से ही प्राप्त होना चाहिए था।

भले ही गलत जवाब देने पर पैसे जुर्माना लगे, लोग केवल थोड़े सावधान हो जाते हैं, लेकिन AI पर अत्यधिक भरोसा करने की आदत को पूरी तरह से बदल नहीं पाते, जिसके परिणामस्वरूप वे खूब सुंदरता से भटक जाते हैं।

यह अध्ययन हमें वास्तव में यह बात याद दिलाता है कि "AI को भ्रम होता है" यह कोई नयी बात नहीं है; बल्कि एक चेतावनी भरा नया परिवर्तन है: AI मानव द्वारा अनिश्चितता के साथ व्यवहार करने के तरीके को बदल देगा।

पिछले समय में, एक अज्ञात समस्या का सामना करते समय व्यक्ति के पास तीन विकल्प हो सकते थे:

1, अगर जानते हैं तो जवाब दें।

2. अगर आपको नहीं पता, तो जाँचें।

3. अगर आपको यकीन नहीं है, तो जवाब न दें, कोई निर्णय न लें।

लेकिन AI के जुड़ने के बाद, प्रक्रिया छोटी हो गई।

1. AI उत्तर देता है।

2. उपयोगकर्ता उत्तर स्वीकार करता है।

सबसे महत्वपूर्ण कदम, जो "मुझे वास्तव में क्या पता है", बिना ध्यान दिए छूट गया।

इसीलिए शोधकर्ता यह जोर देते हैं कि उनके अध्ययन में “AI ने क्या उत्तर दिया” की बजाय “AI ने कितनी आसानी से यह निर्णय लेने में मदद की कि मैं उत्तर दे सकता हूँ” पर ध्यान केंद्रित किया गया है।

यह एक बार गलत जवाब देने से भी अधिक गहरा है, क्योंकि यह हमारी मेटाकॉग्निशन क्षमता को कमजोर करता है, जो हमारी ज्ञान की सीमाओं की निगरानी करने वाला एक अत्यंत मूल्यवान आंतरिक अलार्म है।

जब यह अलार्म खराब हो जाता है, तो हमारी “वास्तविक ज्ञान” और “तर्कसंगत अनुमान” के बीच भेद करने की प्राकृतिक क्षमता खो जाती है।

तब, हम शायद अभी भी AI के माध्यम से उत्तरों को कुशलतापूर्वक प्राप्त कर सकते हैं, लेकिन हम इन उत्तरों को वास्तव में अपना मान सकेंगे या नहीं, यह निर्णय लेने में सक्षम नहीं हो पाएंगे।

इसके साथ ही, AI द्वारा भ्रमित किया जाने वाला कोई विशिष्ट निर्णय नहीं होगा, बल्कि हमारे स्वतंत्र विचार करने वाले होने की नींव होगी।

यह क्षति अमूल्य है।

साक्षात्कार में पेपर के लेखकों में से एक वैलेरियो कैप्रारो ने कहा, "मुझे बच्चों के बारे में बहुत चिंता है, क्योंकि वयस्क पहले से ही आलोचनात्मक सोच सीख चुके हैं। लेकिन उन बच्चों के लिए, जो लगभग इन प्रणालियों के साथ ही पैदा हुए हैं, खतरा यह है कि वे बुनियादी आलोचनात्मक कौशल तक नहीं सीख पाएंगे।"

इस वाक्य के पीछे एक गहरी चिंता छिपी है, जो यह है कि आज के वयस्क, कम से कम, AI के बिना दुनिया में रह चुके हैं।

इसलिए, छोटी उम्र से ही सर्च इंजन, किताबों, कक्षाओं, वाद-विवाद और प्रयोग-त्रुटि के माध्यम से कुछ बुनियादी निर्णय लेने की क्षमता सीखने के बाद AI का उपयोग करना शुरू करने से “मुझे यकीन नहीं है” की भावना विकसित करने का मौका मिलता है।

लेकिन आज के बच्चे, संभवतः इन AI के साथ ही जन्म लेते हैं और बड़े होते हैं।

वे अपना होमवर्क करते हैं, स्रोत खोजते हैं, लेख लिखते हैं, अवधारणाओं को समझते हैं, और इसके लिए आसानी से AI से पूछते हैं।

अगर शुरू से ही अपना निर्णय बनाए बिना सीधे उत्तर प्राप्त करने की आदत बन जाए, तो जोखिम केवल एक प्रश्न का गलत उत्तर देना ही नहीं है, बल्कि उन्हें सबसे बुनियादी आलोचनात्मक सोच कौशल विकसित करने का मौका ही नहीं मिल सकता।

कैप्रारो के अनुसार, इस समस्या का समाधान केवल मॉडल कंपनियों द्वारा बग ठीक करने से नहीं, बल्कि एआई साक्षरता और शिक्षा नीति पर ध्यान केंद्रित करके किया जाना चाहिए।

मॉडल कंपनियों को निश्चित रूप से सुधार करना चाहिए, जैसे अनिश्चितता को बेहतर तरीके से व्यक्त करना, हॉल्यूसिनेशन को कम करना, और साक्ष्य की कमी होने पर उपयोगकर्ताओं को सतर्क करना।

लेकिन एक साथ, कैप्रारो का मानना है कि मॉडल कंपनियों पर पूरी उम्मीद नहीं रखी जा सकती।

अधिक आशावादी और दीर्घकालिक समाधान शिक्षा है।

विशेष रूप से बच्चों की शिक्षा।

आज के बच्चों के लिए, "मुझे नहीं पता, लेकिन मैं इसे समझने की कोशिश करूंगा" की प्रक्रिया को अभ्यास करना और इस आदत को विकसित करना बहुत महत्वपूर्ण और आवश्यक है।

प्रयोग के अंत में, शोधकर्ताओं ने सीमाओं को भी स्वीकार किया: प्रयोग केवल फिल्म विवरण प्रश्नों का उपयोग करता था, और अन्य क्षेत्रों में इसकी लागू होने की जांच अभी बाकी है; प्रोत्साहन राशि छोटी थी, और बड़े हितों के साथ व्यवहार में सुधार हो सकता है या नहीं, यह अभी स्पष्ट नहीं है।

लेकिन कम से कम मौजूदा डेटा एक स्पष्ट संकेत देता है: लोग कम यह कह रहे हैं कि उन्हें पता नहीं, अधिक उत्तर दे रहे हैं, कम सही उत्तर दे रहे हैं, लेकिन अधिक आत्मविश्वासी हैं।

यह AI युग का सबसे छिपा हुआ जोखिम हो सकता है।

AI ने आपको धोखा दिया है, और इसने आपको यह समझना भी मुश्किल बना दिया है कि आप वास्तव में कुछ नहीं जानते।

इस अध्ययन का अंतिम निष्कर्ष बहुत संयमित है, लेकिन बहुत भारी है: "जबकि AI द्वारा उत्पादित उत्तर सर्वव्यापी हो रहे हैं और अक्सर बिना आमंत्रित किए ही आ जाते हैं, हमारा अध्ययन दर्शाता है कि मानव और AI के बीच बातचीत में मानव की 'मुझे नहीं पता' को स्वीकार करने की क्षमता, मानव-मशीन इंटरैक्शन के पहले पीड़ितों में से एक बन सकती है।"

जब AI प्रणालियाँ लगातार अधिक लोकप्रिय होती जा रही हैं, तो मानवीय निर्णय लेने की क्षमता क्या टिक पाएगी, यह अंततः इस बात पर निर्भर करता है कि हम AI को अधिक सटीक कैसे बनाते हैं, बल्कि यह कि क्या हम अपनी आत्म-जागरूकता को बनाए रख पाते हैं—अपने ज्ञान की सीमाओं को स्पष्ट रूप से समझते हुए और उसके आधार पर सावधानी से कार्य करते हुए।

यह इस बात का इशारा नहीं है कि AI का उपयोग नहीं किया जा सकता, बल्कि विपरीत, AI निश्चित रूप से एक शक्तिशाली सहायक उपकरण हो सकता है;

लेकिन इसकी शर्त यह है कि यह लोगों के विचार करने में मदद करे, न कि उनके विचार करने के स्थान पर आ जाए, हमें अपनी सावधानी से निर्णय लेने की सीमा को बनाए रखना चाहिए।

एक स्वस्थ एआई उपयोग का तरीका यह हो सकता है कि पहले अपने आप निर्णय लें, सक्रिय रूप से सीखें, और अगर वास्तव में समझ नहीं आए, तो एआई से सहायता लें, और सहायता लेते समय हमेशा संदेह की प्रवृत्ति बनाए रखें। (एआई के प्रति संदेह करना और अपने आप से प्रश्न पूछना दोनों)

उदाहरण के लिए:

क्या यह गलत हो सकता है?

Where is the evidence?

क्या संदर्भ लिंक 404 पूरी तरह से खाली है?

क्या मैंने इसलिए कि यह बहुत आसानी से कहा गया, यह मान लिया कि यह सही है?

AI उत्पादों और उनके विकासकों के लिए यह भी एक चेतावनी है—“तकनीकी परिपक्वता, अज्ञात के प्रति सम्मान में अंतिम रूप लेगी।”

भविष्य में AI के विकास की दिशा केवल इतनी ही नहीं होगी कि AI तेजी से और इंसान की तरह जवाब दे, बल्कि AI को अनिश्चितता को ईमानदारी से स्वीकार करना सीखना चाहिए;

जब साक्ष्य अपर्याप्त हो, प्रश्न दृश्य विवरणों, वास्तविक समय की जानकारी या विशेषज्ञ निर्णय पर निर्भर करे, तो AI को उपयोगकर्ता को स्पष्ट रूप से बताना चाहिए कि उत्तर अविश्वसनीय है, न कि ऐसा बनाना चाहिए कि यह सब कुछ जानता है।

और जैसे आप और मैं जैसे सामान्य लोगों के लिए, जिन्हें समय की लहरों ने आगे की ओर भागने के लिए बाध्य कर दिया है, सबसे कीमती क्षमता शायद यह दोहराना है कि "मुझे नहीं पता।"

इस ऐसे समय में जहाँ AI हमेशा उत्तर देता है, "मुझे नहीं पता।" यह अज्ञान का बयान नहीं, बल्कि निर्णय क्षमता का प्रमाण है।

रेफरेंस लिंक:

[1]https://www.theregister.com/ai-and-ml/2026/07/19/using-ai-makes-people-less-likely-to-admit-they-dont-know-something/5274567

[2]https://arxiv.org/pdf/2607.13562

यह लेख वेचेन ग्रुप "Quantum Bit" से आया है, लेखक: वेन टिंग