लोग जानते हैं कि AI गलतियाँ करता है, लेकिन निगरानी शायद अच्छा तरीका नहीं है।लेखक, स्रोत: AIBase
हाल ही में वाशिंगटन पोस्ट द्वारा संकलित एक शोध समूह ने AI के द्वारा स्मृति पर होने वाले प्रभाव को ध्यान केंद्रित किया है। मैसाचुसेट्स इंस्टीट्यूट ऑफ टेक्नोलॉजी के मीडिया लैब की प्रोफेसर पैटी मेस और उनकी टीम ने पहले 200 प्रतिभागियों को 24 दैनिक फोटोज़—शादी, सड़क का दृश्य, दौड़—दिखाए।
एक छोटी विराम के बाद, कुछ लोगों ने मूल चित्र फिर से देखा, जबकि दूसरे लोगों को AI द्वारा संशोधित संस्करण दिखा: चेहरे के भाव बदल दिए गए, सेना के सैनिकों को जबरन शामिल किया गया, या जलवायु परिवर्तन के दृश्य को बिना कारण जोड़ दिया गया। इसके बाद की स्मृति परीक्षा ने मेस को हैरान कर दिया: बदले हुए चित्र देखने वालों में गलत स्मृति की संभावना में भारी वृद्धि हुई, और अधिक डरावनी बात यह है कि उन्होंने इन झूठी स्मृतियों पर अधिक विश्वास किया। "यह सब बहुत खतरनाक है," उसने ऐसा निष्कर्ष निकाला।
ये घटनाएँ अकेली नहीं हैं। राजनीतिक घटनाओं, अपराध मामलों और यहाँ तक कि नए फिल्मों के लिए किए गए ज्ञानात्मक प्रयोगों ने दिखाया है कि AI द्वारा उत्पन्न चित्र और संवाद, मस्तिष्क में ऐसे विस्तारों को जोड़ सकते हैं जो कभी नहीं हुए, जिससे लोग झूठे स्थितियों को "याद" करने के लिए पूरी तरह से आत्मविश्वासी हो जाते हैं—कुछ लोग "याद" करते हैं कि उन्होंने विल स्मिथ की अभिनीत हैकर नेटवर्क का पुनर्निर्माण देखा, और कुछ "याद" करते हैं कि उन्होंने कभी नहीं हुई कोई राजनीतिक घोटाला देखा। एक अपराध वीडियो देखने के बाद, AI चैटबॉट से पूछताछ किए गए प्रतिभागियों में झूठी स्मृतियों की संख्या नियंत्रण समूह की तुलना में तीन गुना अधिक थी।
क्षमताएँ बाहरी रूप से आउटसोर्स की जाती हैं, स्मृति और मानसिक क्षमता दोनों कम हो जाती हैं
"भूल जाना" से अधिक गुप्त है "याद रखने के लिए अनिच्छा"। मेस के एक अन्य प्रयोग में, जो अभी समीक्षा के अधीन है, 54 प्रतिभागियों ने SAT शैली के निबंध लिखे: एक समूह केवल हाथ से लिख रहा था, एक समूह गूगल का उपयोग कर रहा था, और एक समूह ChatGPT का उपयोग कर रहा था, जिसमें स्केल्प इलेक्ट्रोड्स द्वारा मस्तिष्क की गतिविधि समानांतर में रिकॉर्ड की गई। परिणाम स्पष्ट थे—स्वतंत्र रूप से लिखने वालों के मस्तिष्क के क्षेत्रों के बीच सबसे मजबूत और सबसे व्यापक कनेक्शन थे, जबकि ChatGPT का उपयोग करने वालों के मस्तिष्क में सबसे कमजोर; बाद में, उनसे अपने निबंध को पुनः प्रस्तुत करने के लिए कहा गया, और AI पर निर्भर प्रतिभागी लगभग याद नहीं कर पाए कि उन्होंने क्या लिखा था। स्मृति को ध्यान, सक्रिय प्रयास और सूचना प्राप्ति के संयुक्त प्रयासों से मजबूत किया जाता है, जबकि जनरेटिव AI इस मानसिक प्रयास को समाप्त कर देता है।
पेनसिल्वेनिया विश्वविद्यालय के वर्टन स्कूल के नाफ और लंदन के किंग्स कॉलेज के शॉ ने इस प्रवृत्ति को "कौशल अपचय" कहा है: मनुष्य धीरे-धीरे ऐसी क्षमताओं का अभ्यास नहीं कर रहे हैं जिन्हें मशीनें कर सकती हैं, "सोचना एक विकल्प बन गया है"। पेशेवर क्षेत्रों में प्रमाण पहले से ही सामने आ चुके हैं—2025 में प्रकाशित लैंसेट के एक पत्रिका के अध्ययन ने 19 अनुभवी डॉक्टरों के लगभग 1500 कोलोनोस्कोपी मामलों का अवलोकन किया, जिसमें पाया गया कि AI के नियमित उपयोग के बाद, उनकी स्वतंत्र रूप से पूर्व-कैंसर स्थितियों की पहचान करने की क्षमता लगभग 20% घट गई। बच्चों के संबंध में चिंता अधिक मौलिक है: मौलिक संज्ञानात्मक क्षमताएँ अभी विकसित नहीं हुई होती हैं, लेकिन पहले से ही मानसिक कार्यों को बाहर सौंपने लगते हैं, और आलोचनात्मक सोच का अभ्यास ही शुरू से नहीं होता।
स्वीडन के माल्मे में AI नैतिकता वर्षावसान पर, शोधकर्ताओं ने बार-बार पूछा: जब AI स्मृति में हस्तक्षेप करे, तो परिणाम क्या होंगे? जॉर्जटाउन विश्वविद्यालय की सिम ने 331 लोगों के साथ एक टक्कर एनिमेशन प्रयोग किया, जिसमें एक समूह को सटीक AI सारांश पढ़ाए गए और दूसरे समूह को जानबूझकर गलत लेबल वाला सारांश, जिसकी सटीकता क्रमशः लगभग 84% और 45% थी—भले ही पहले ही घोषणा कर दी गई हो कि "यह AI द्वारा लिखा गया है", भ्रम प्रभावी रहा। उन्होंने एक क्रूर विरोधाभास को स्पष्ट किया: हम "मानव समीक्षा" की उम्मीद करते हैं ताकि मशीन की गलतियों को संभाला जा सके, लेकिन AI पहले ही उन स्मृतियों को बदल चुका है जिन पर मानव निर्णय लेते हैं, और यह सुरक्षा रेखा मूलतः असफल हो सकती है। "सभी जानते हैं कि AI गलतियाँ करता है, लेकिन निगरानी शायद अच्छा समाधान नहीं है।" जब उद्यमी पुलिस के फुटेज रिकॉर्डर्स और अस्पतालों के मेडिकल रिकॉर्ड्स में AI को समाहित करने के लिए प्रतिस्पर्धा कर रहे हैं, तो यह सतर्कता की घंटी सही समय पर बजी।