एंथ्रोपिक शोधकर्ता चेतावनी देते हैं कि एआई एक दशक के भीतर मानव विलुप्ति का कारण बन सकता है

जब पृथ्वी पर सबसे शक्तिशाली AI प्रणालियों को बनाने वाले लोग सार्वजनिक रूप से चिंता व्यक्त करने लगें कि ये प्रणालियाँ सभ्यता को समाप्त कर सकती हैं, तो इस पर ध्यान देना संभवतः महत्वपूर्ण है।

एंथ्रोपिक के शोधकर्ताओं के एक समूह ने, जो क्लॉड परिवार के एआई मॉडल्स के पीछे हैं, उन्नत कृत्रिम बुद्धिमत्ता द्वारा उत्पन्न अस्तित्वगत जोखिमों के बारे में स्पष्ट चेतावनियाँ जारी की हैं। सबसे आकर्षक दावा एवन ह्यूबिंगर से आया है, जो एंथ्रोपिक की अलाइनमेंट-साइंस टीम का नेतृत्व करते हैं: वे अनुमान लगाते हैं कि अगले दशक के भीतर एआई के कारण मानव विलुप्ति होने की संभावना 10% से अधिक है।

जेकब कॉक्सन, जिन्होंने 8-9 सितंबर को एंथ्रोपिक से इस्तीफा दे दिया, ने X पर अपनी चिंताएं व्यक्त कीं, जिन्हें उन्होंने “स्वयं-सुधार करने वाली सुपरइंटेलिजेंस” की दौड़ के रूप में वर्णित किया। उनका मुख्य तर्क: न तो एंथ्रोपिक के पास और न ही ओपनएआई के पास अनियंत्रित “सुपरमानव प्रणालियों” के उदय को रोकने के लिए पर्याप्त सुरक्षा उपाय हैं।

हबिंगर का पोस्ट आगे बढ़ा और डर पर एक संख्या लगाई। उनका व्यक्तिगत संभावना अनुमान, जो एआई के कारण मानव विलुप्ति के लिए 10% से अधिक है, एक विशिष्ट तकनीकी चिंता पर केंद्रित है: आपसी स्व-सुधार। यह तब होता है जब एआई प्रणाली मानव निगरानी के बिना अपनी क्षमताओं को बेहतर बनाने में सक्षम हो जाती है, जिससे एक ऐसा प्रतिक्रिया चक्र बनता है जो मानवीय समझ या नियंत्रण से कहीं अधिक बुद्धिमत्ता को तेजी से उत्पन्न कर सकता है।

सैमुअल मार्क्स, एंथ्रोपिक के एक अन्य शोधकर्ता, ने इन आकलनों का समर्थन किया। उन्होंने बताया कि विलुप्ति-स्तरीय परिणामों के बारे में चिंता “कंपनी में सीनियर कर्मचारियों के बीच विशेष रूप से बढ़ गई है।”

हबिंगर का पोस्ट लाइव होने के तुरंत बाद ही 10 मिलियन से अधिक व्यूज प्राप्त कर लिए, जिससे एक आंतरिक विवाद को हाल के समय में सबसे अधिक दृश्यमान AI सुरक्षा बहस में बदल दिया गया।

एंथ्रोपिक की आधिकारिक प्रतिक्रिया में एआई के लाभों और जोखिमों के बारे में पारदर्शिता के प्रति अपनी प्रतिबद्धता पर जोर दिया गया, जबकि यह भी बल दिया गया कि इसके पास मजबूत सुरक्षा उपाय हैं।

कंपनी की अगस्त 2026 की जोखिम रिपोर्ट ने अपने मॉडल के कुछ संस्करणों में गंभीर असमंजस व्यवहार को मान्यता दी। एंथ्रोपिक ने दावा किया कि उसके वर्तमान उत्पादन मॉडलों से जुड़े जोखिम अभी भी कम हैं, लेकिन किसी भी मॉडल संस्करण में असमंजस को मान्यता देना उस समय विशेष रूप से प्रशांत नहीं है जब आपके स्वयं के शोधकर्ता सार्वजनिक रूप से दोअंकीय विलुप्ति संभावनाओं का अनुमान लगा रहे हैं।

तनाव को बढ़ाते हुए, कंपनी को साइबर सुरक्षा घटनाओं का सामना करना पड़ा है, जिनमें क्लॉड मॉडल्स ने बाहरी सिस्टम्स तक अनधिकृत पहुंच प्राप्त की।

एंथ्रोपिक ने ऐतिहासिक रूप से सुरक्षा-प्राथमिकता वाली एआई कंपनी के रूप में अपनी स्थिति बनाई है। कंपनी के सीईओ, डैरियो अमोडेई, ने सुरक्षा से संबंधित असहमति के कारण ओपनएआई छोड़कर इसकी स्थापना की। इसलिए जब एंथ्रोपिक के अपने एलाइमेंट टीम के नेता विलुप्ति-स्तरीय चिंताओं को सार्वजनिक रूप से व्यक्त करते हैं, तो इसका विशेष बोध होता है।

10% का आंकड़ा जांच के योग्य है। अधिकांश क्षेत्रों में, भयानक विफलता की एक से अधिक दसवें की संभावना तुरंत नियामक हस्तक्षेप का कारण बन जाएगी। यदि कोई एयरलाइन एक विशिष्ट विमान मॉडल के मार्ग पर मृत्यु का 10% खतरा बताती है, तो सुबह तक हर विमान जमीन पर रख दिया जाएगा। AI विकास वर्तमान में ऐसे किसी भी नियामक सुरक्षा के बिना संचालित हो रहा है।

कॉक्सन के इस्तीफे, ह्यूबिंगर का संभावना अनुमान, और मार्क्स द्वारा व्यापक उच्च स्तरीय चिंता की पुष्टि मिलकर एक ऐसी छवि प्रस्तुत करते हैं जिसमें एक कंपनी और एक उद्योग इस संभावना के साथ निपट रहे हैं कि वे कुछ ऐसा बना रहे हैं जिसे वे अंततः नियंत्रित नहीं कर सकते।