एक 27 वर्षीय ब्रिटिश शोधकर्ता, जिन्होंने Anthropic पर प्रीट्रेनिंग पर काम किया, ने सार्वजनिक रूप से इस्तीफा दे दिया है और चेतावनी दी है कि आनुवंशिक स्व-सुधार करने वाले AI के निर्माण की प्रतिस्पर्धा इस दशक के अंत तक मानव विलुप्ति की ओर ले जा सकती है।
जेकब कॉक्सन ने लगभग 8-9 सितंबर को दुनिया की सबसे प्रमुख एआई सुरक्षा कंपनियों में से एक को छोड़ दिया, और उनका विदाई संदेश “उत्साहजनक नए अध्याय” के बारे में एक साधारण लिंक्डइन पोस्ट नहीं था। यह एक चेतावनी थी कि इन प्रणालियों को बनाने वाले लोग वास्तव में मानते हैं कि वे विनाशकारी परिणाम पैदा कर सकते हैं, और चीजों को नियंत्रण से बाहर होने का समय अगले साल तक हो सकता है।
इंसाइडर अलार्म
कॉक्सन के इस्तीफे को खास तौर पर नज़रअंदाज़ करना कठिन इसलिए है क्योंकि उसके बाद क्या हुआ। एंथ्रोपिक के उनके ही सहकर्मी उसके साथ सार्वजनिक रूप से सहमत होने लगे।
एवन ह्यूबिंगर, जो एंथ्रोपिक में अलाइनमेंट साइंस लीड का पद रखते हैं, ने सोशल मीडिया पर कॉक्सन के दावों का समर्थन किया। उनका व्यक्तिगत अनुमान: अगले दशक के भीतर AI के कारण बड़े पैमाने पर मानवीय मृत्युओं की संभावना 10% से अधिक है।
हबिंगर ने आगे बढ़कर स्वीकार किया कि एंथ्रोपिक के पास सुपरइंटेलिजेंट सिस्टम के साथ संरेखण सुनिश्चित करने की कोई स्पष्ट योजना नहीं है।
सैमुअल मार्क्स, एक अन्य एंथ्रोपिक शोधकर्ता, ने समान चिंताओं को दोहराया और सुझाव दिया कि कंपनी के सीनियर कर्मचारी विलुप्ति-स्तरीय जोखिमों के बारे में विशेष रूप से चिंतित हैं।
कॉक्सन ने एआई विकास के वृत्तों में “क्रंचटाइम” और “एंडगेम” जैसे शब्दों के उपयोग की आलोचना की। ये शब्द सुपरइंटेलिजेंस की खोज को कुछ तत्काल और अपरिहार्य के रूप में प्रस्तुत करते हैं, एक जीते जाने वाली प्रतियोगिता के रूप में, न कि एक प्रबंधित किए जाने वाले जोखिम के रूप में। उनका तर्क था कि यह प्रस्तुति समस्या का हिस्सा है।
निकास का एक पैटर्न
कॉक्सन एंथ्रोपिक को छोड़ने वाले पहले सुरक्षा-केंद्रित शोधकर्ता नहीं हैं, जिन्होंने कंपनी की दिशा के बारे में चिंताएँ व्यक्त की हैं। जिन्होंने कंपनी की सुरक्षा शोध टीम का नेतृत्व किया, उन्होंने फरवरी 2026 में इस्तीफा दे दिया। शर्मा ने एआई और जैविक हथियारों द्वारा बढ़ते खतरों को संदर्भित किया, और बाहरी दबावों का उल्लेख किया जिन्होंने कंपनी के नैतिक व्यवहार को प्रभावित किया है।
विरोधाभास घना है। एंथ्रोपिक की स्थापना पूर्व OpenAI कर्मचारियों, जिनमें CEO Dario Amodei शामिल हैं, द्वारा इसलिए की गई थी क्योंकि उन्हें लगा कि OpenAI सुरक्षा को पर्याप्त गंभीरता से नहीं ले रहा था। इसे सुरक्षा-प्रथम विकल्प होना था। अब इसके स्वयं के सुरक्षा शोधकर्ता छोड़ रहे हैं क्योंकि उन्हें लगता है कि एंथ्रोपिक सुरक्षा को पर्याप्त गंभीरता से नहीं ले रहा है।
प्रतिस्पर्धा के रूप में त्वरक
कॉक्सन की चेतावनी ने विशेष रूप से अंतरराष्ट्रीय प्रतिस्पर्धा को बदतर होने का कारण बताया। चीनी एआई प्रयोगशालाओं से विशेष रूप से प्रतिस्पर्धा के साथ चलने का दबाव एक ऐसा माहौल बनाता है जहां सुरक्षा को सही तरीके से प्राप्त करने के लिए धीमा होना एकतरफा अस्त्र-शस्त्र छोड़ने की तरह महसूस होता है।