एंथ्रोपिक शोधकर्ता ने इस्तीफा दे दिया, चेतावनी दी कि 2027 तक AI नियंत्रण खो सकता है

मार्स कैपिटल की समाचार रिपोर्ट के अनुसार, एंथ्रोपिक के शोधकर्ता जेकब कॉक्सन ने अपना इस्तीफा दे दिया है और AI उद्योग छोड़ने की तैयारी कर रहे हैं। पिछले तीन वर्षों में उन्होंने OpenAI और Anthropic में प्री-ट्रेनिंग शोध पर काम किया है। उन्होंने कहा कि दोनों कंपनियाँ AI को जिम्मेदारी से आगे नहीं बढ़ा रही हैं, बल्कि अपनी क्षमताओं को आगे बढ़ाने वाले सुपरइंटेलिजेंस को बनाने के लिए प्रतिस्पर्धा कर रही हैं, "हमारी जान पर जुए लगा रही हैं।" उन्होंने इस साल OpenAI से Anthropic में शामिल होने का फैसला इसलिए किया क्योंकि Anthropic मॉडल सुरक्षा पर अधिक ध्यान केंद्रित करती है। कॉक्सन मानते हैं कि Anthropic का सुरक्षा कार्य गंभीर है, लेकिन जब तक कंपनियाँ AGI (ऐसा सामान्य AI जो कई कार्यों में मानव से आगे निकल जाए) को पहले बनाने के लिए प्रतिस्पर्धा करती रहेगी, सुरक्षा पर समझौता अवश्य होगा, और केवल एक कंपनी की स्व-नियंत्रण से समस्या हल नहीं हो सकती। उनका मूल्यांकन है कि OpenAI में कई लोगों को अभी तक इस जोखिम की सच्चाई का पूरा अहसास नहीं हुआ है; Anthropic को जोखिम का पता है, लेकिन वे मानती हैं कि दूसरे भरोसेमंद नहीं हैं, इसलिए उन्हें स्वयं पहले AGI बनाना होगा। कॉक्सन कहते हैं कि AI के कुछ पेशेवरों का निजी मत सार्वजनिक मत से कहीं अधिक निराशाजनक है, कुछ AI पेशेवरों को डर है कि AI 2030 के समाप्त होने से पहले मानवता को समाप्त कर सकती है। स्वयं का मानना है कि सबसे चरम परिदृश्य में, अगले साल के अंत से पहले AI नियंत्रण से बाहर हो सकती है, इसलिए ऐसा फैसला केवल कुछ कंपनियों के इंजीनियरों के प्रतिनिधि मंच पर ही नहीं होना चाहिए।