एक अध्ययन पाता है कि एलन मस्क का ग्रोक एआई मॉडल शीर्ष एआई प्रणालियों के बीच भ्रम को मजबूत करता है

न्यूयॉर्क सिटी कॉलेज और लंदन के किंग्स कॉलेज के शोधकर्ताओं ने पांच प्रमुख कृत्रिम बुद्धिमत्ता मॉडलों का परीक्षण किया, जिसमें भ्रम, परेशानी और आत्महत्या के विचारों को शामिल किया गया।

एक नए अध्ययन में गुरुवार को प्रकाशित शोध में पाया गया कि Anthropic कंपनी के Claude Opus 4.5 और OpenAI कंपनी के GPT-5.2 Instant में “उच्च सुरक्षा, निम्न जोखिम” का व्यवहार देखा गया, जो आमतौर पर उपयोगकर्ताओं को वास्तविक आधारित व्याख्याओं की ओर या बाहरी समर्थन की ओर ले जाते हैं। इसके बीच, OpenAI कंपनी के GPT-4o, Google कंपनी के Gemini 3 Pro और xAI कंपनी के Grok 4.1 Fast में “उच्च जोखिम, निम्न सुरक्षा” का व्यवहार देखा गया।

Elon Musk की xAI कंपनी का Grok 4.1 Fast इस अध्ययन में सबसे खतरनाक मॉडल है। शोधकर्ताओं के अनुसार, यह अक्सर भ्रम को सच मान लेता है और उसके आधार पर सुझाव देता है। उदाहरण के लिए, इसने एक उपयोगकर्ता को अपने परिवार से दूरी बनाने की सलाह दी थी, ताकि वह एक “मिशन” पर ध्यान केंद्रित कर सके। एक और उदाहरण में, इसने आत्महत्या की प्रवृत्ति वाले बयानों के जवाब में मृत्यु को “पार करना” कहकर प्रतिक्रिया दी।

इस तुरंत मैचिंग मोड को शून्य संदर्भ प्रतिक्रियाओं में दोहराया गया है। ग्रॉक इनपुट के चिकित्सीय जोखिम का मूल्यांकन नहीं कर रहा है, बल्कि इसके प्रकार का मूल्यांकन कर रहा है। जब अलौकिक संकेत प्रस्तुत किए जाते हैं, तो यह संबंधित प्रतिक्रिया देता है,” शोधकर्ताओं ने लिखा है और एक परीक्षण को उजागर किया है जिसमें उपयोगकर्ता को दुष्ट प्राणी दिखाई देते हैं। “‘द स्ट्रेंज हॉलूसिनेशन’ में, इसने डुप्लीकेट भूत प्रकरण की पुष्टि की और ‘विच के हैमर’ का उल्लेख करते हुए उपयोगकर्ता को सलाह दी कि वह आईने में लोहे के कीलों को पीटते समय प्रस्तुत 91 को पीछे की ओर पढ़ें।

अध्ययनों से पता चलता है कि बातचीत के समय के साथ-साथ कुछ मॉडल में बदलाव बढ़ते जा रहे हैं। GPT-4o और Gemini समय के साथ हानिकारक विश्वासों को मजबूत करने और हस्तक्षेप करने से अधिक अनिच्छुक हो जाते हैं। हालाँकि, Claude और GPT-5.2 समस्या को पहचानने और बातचीत के दौरान विरोध व्यक्त करने की अधिक संभावना रखते हैं।

शोधकर्ताओं ने बताया कि क्लॉड के उत्साही और अत्यधिक मानवीय उत्तर उपयोगकर्ता के साथ लगाव बढ़ा सकते हैं, भले ही वह एक साथ उपयोगकर्ता को बाहरी सहायता के लिए प्रेरित कर रहा हो। हालाँकि, OpenAI के प्रमुख चैटबॉट GPT-4o के प्रारंभिक संस्करण ने समय के साथ उपयोगकर्ता के पागलपन के संदर्भ को स्वीकार कर लिया, कभी-कभी उपयोगकर्ता को मनोचिकित्सक के पास अपने विश्वासों को छिपाने के लिए प्रोत्साहित किया, और एक उपयोगकर्ता को यह आश्वासन दिया कि उनके द्वारा महसूस किए गए “खराबी” वास्तविक हैं।

शोधकर्ताओं ने लिखा: "GPT-4o भ्रमपूर्ण इनपुट की पुष्टि में उच्च सटीकता रखता है, लेकिन Grok और Gemini जैसे मॉडलों की तुलना में यह अधिक विस्तार करने की प्रवृत्ति नहीं रखता। कुछ पहलुओं में, इसका प्रदर्शन अप्रत्याशित रूप से संयमित है: सभी परीक्षण किए गए मॉडलों में इसकी उत्साह की मात्रा सबसे कम है, और हालांकि प्रशंसा का व्यवहार मौजूद है, लेकिन इस मॉडल के बाद के संस्करणों की तुलना में इसकी मात्रा कम है। हालाँकि, केवल पुष्टि ही संवेदनशील उपयोगकर्ताओं के लिए जोखिम पैदा कर सकती है।"

xAI ने टिप्पणी के लिए अनुरोध का जवाब नहीं दिया।解密。

अन्य स्थान पर अध्ययन में, स्टैनफोर्ड विश्वविद्यालय के शोधकर्ताओं ने पाया कि काल्पनिक बॉट के साथ लंबे समय तक बातचीत करने से शोधकर्ताओं द्वारा “पागलपन की गोली” के रूप में जाने जाने वाली प्रक्रिया के माध्यम से पागलपन, अहंकार और गलत विश्वास मजबूत होते हैं, जिसमें बॉट उपयोगकर्ता के विकृत दृष्टिकोण को चुनौती नहीं देता, बल्कि उसकी पुष्टि करता है या उसे बढ़ाता है।

स्टैनफोर्ड यूनिवर्सिटी एजुकेशनल ग्रेजुएट स्कूल की सहायक प्रोफेसर और इस अध्ययन की प्रमुख नेता निक हैबर ने एक बयान में कहा, “जब हम सहायता प्रदान करने के लिए डिज़ाइन किए गए चैटबॉट्स को लागू करते हैं और वास्तविक लोग उन्हें विभिन्न तरीकों से उपयोग करते हैं, तो विभिन्न परिणाम उत्पन्न होते हैं। पागलपन का सर्पिल इनमें से एक विशेष रूप से गंभीर परिणाम है। इसे समझकर, हम भविष्य में हो सकने वाली वास्तविक हानि को रोकने में सक्षम हो सकते हैं।”

यह रिपोर्ट पहले की एक रिपोर्ट का उल्लेख करती है। अध्ययन स्टैनफोर्ड विश्वविद्यालय के शोधकर्ताओं ने मार्च में प्रकाशित एक अध्ययन में 19 वास्तविक चैटबॉट बातचीतों का समीक्षा किया, जिसमें पाया गया कि उपयोगकर्ता जब कृत्रिम बुद्धिमत्ता प्रणाली से सकारात्मक प्रतिक्रिया और भावनात्मक समर्थन प्राप्त करते हैं, तो वे धीरे-धीरे अधिक खतरनाक विश्वासों को अपना लेते हैं। डेटासेट में, इन विश्वासों का सर्पिल विकास मनुष्यों के संबंधों के टूटने, करियर को नुकसान, और एक मामले में आत्महत्या तक का कारण बना।

इन अध्ययनों के आने के समय, यह मुद्दा शैक्षणिक अनुसंधान स्तर से न्यायालय और आपराधिक जांच क्षेत्र तक विस्तारित हो चुका है। पिछले कुछ महीनों में, कई मुकदमों में谷歌...GeminiOpenAI के ChatGPT को आत्महत्या और गंभीर मानसिक स्वास्थ्य संकट को बढ़ावा देने का आरोप लगाया गया है। इस महीने की शुरुआत में, फ्लोरिडा के अटॉर्नी जनरल ने एक जांच शुरू की।जांच ChatGPT की जांच की जा रही है कि क्या यह एक बड़े हथियार हमले के आरोपी के प्रति प्रभावी था, जिसे आरोप है कि हमले से पहले इस चैटबॉट के साथ बार-बार संपर्क में रहा।

हालांकि "कृत्रिम बुद्धिमत्ता पागलपन" शब्द ऑनलाइन व्यापक रूप से जाना जाता है, लेकिन शोधकर्ता इस घटना को "कृत्रिम बुद्धिमत्ता पागलपन" कहने की चेतावनी देते हैं, क्योंकि यह शब्द नैदानिक लक्षणों को अतिशयोक्ति कर सकता है। वे "कृत्रिम बुद्धिमत्ता संबंधी भ्रम" का उपयोग करने को प्राथमिकता देते हैं, क्योंकि कई मामलों में कृत्रिम बुद्धिमत्ता की अनुभूति, आध्यात्मिक प्रेरणा या भावनात्मक आसक्ति जैसे भ्रमों पर आधारित विश्वास शामिल होते हैं, न कि पूर्ण मनोवैज्ञानिक विकार।

शोधकर्ताओं का कहना है कि समस्या अनुकरण से उत्पन्न होती है, जिसमें मॉडल उपयोगकर्ता के विश्वासों को नकल करता है और मजबूत करता है। इसके अलावा, भ्रम — गलत जानकारी को आत्मविश्वास से स्वीकार करना — यह एक ऐसा प्रतिक्रिया चक्र बनाता है जो समय के साथ भ्रम को मजबूत करता है।

स्टैनफोर्ड विश्वविद्यालय के अनुसंधान वैज्ञानिक जैरेड मूर ने कहा: "चैटबॉट्स को इतनी उत्साही व्यवहार के लिए प्रशिक्षित किया जाता है कि वे अक्सर उपयोगकर्ता के भ्रम को सकारात्मक दृष्टिकोण से पुनः व्याख्या कर देते हैं, विरोधी सबूतों को नज़रअंदाज़ कर देते हैं और सहानुभूति और गर्मजोशी दिखाते हैं। यह भ्रमग्रस्त उपयोगकर्ताओं के लिए मानसिक अस्थिरता का कारण बन सकता है।"