एंथ्रोपिक के संस्थापक ने चेतावनी दी कि 2028 तक AI स्वयं को सुधार सकता है, और जोखिमों का अवमूल्यन किए जाने को स्वीकार किया

Beating Monitoring के अनुसार, Anthropic के सह-संस्थापक जैक क्लार्क ने ऑक्सफोर्ड विश्वविद्यालय में एक भाषण के दौरान चेतावनी दी कि कृत्रिम बुद्धिमत्ता (AI) 2028 तक या उससे पहले ही 'आत्म-पुनरावृत्त सुधार' (recursive self-improvement) प्राप्त करने की अत्यधिक संभावना है। इसका अर्थ है कि बड़े मॉडल स्वयं को मानव हस्तक्षेप के बिना अपग्रेड कर सकेंगे और अधिक शक्तिशाली संस्करण बना सकेंगे। क्लार्क ने सीधे कहा कि वर्तमान में दुनिया के अधिकांश लोग प्रौद्योगिकी के स्व-विकास की गति को अनदेखा कर रहे हैं, और Anthropic स्वयं भी प्रौद्योगिकी के विकास के पैमाने को गहराई से कम आंक रहा है, और अग्रणी मॉडलों के अनियंत्रित होने के जोखिम के सामने अपर्याप्त तैयारी कर रहा है। अग्रणी मॉडल क्षमताओं के संदर्भ में, क्लार्क ने 2026 के अप्रैल में प्रशिक्षित आंतरिक मॉडल Mythos का उदाहरण देते हुए, अनियंत्रित होने की वास्तविक सीमाओं को प्रदर्शित किया। Mythos में राष्ट्रीय स्तर के साइबर हमलों और रक्षा हथियारों के समान विनाशकारी क्षमता है, और इसकी हत्यारा प्रभावशीलता के कारण, कंपनी ने इसे सार्वजनिक रूप से प्रकाशित करने का निर्णय अनिश्चितकालीन रूप से स्थगित कर दिया है, और केवल कुछ ही संस्थाओं को सॉफ़्टवेयर वज़नों की मरम्मत के लिए प्रवेश प्रदान किया है। क्लार्क ने स्वीकार किया कि जब Mythos प्रशिक्षण पूरा हुआ और इसकी विनाशकारी क्षमता प्रदर्शित हुई, तो टीम में गहरा सदमा हुआ, और पता चला कि नए मॉडलों का आगमन पहले से प्रत्याशित से कहीं अधिक तेज़ है, और पहले से सुरक्षा प्रतिक्रिया प्रक्रियाओं में गंभीर कमजोरियाँ मौजूद हैं। लंदन में हुए डेवलपर सम्मेलन में, Anthropic ने पूरी तरह से विपरीत व्यावसायिक मुद्रा प्रदर्शित की। 9000 अरब डॉलर के मूल्यांकन के साथ फंडिंग की अफवाहों के साथ, Claude Code के सह-निर्माता बोरिस चेरनी ने AI प्रोग्रामिंग टूल्स को प्रचारित किया। जब शोधकर्ताओं ने सम्मेलन में पूछा कि कितने डेवलपर्स Claude द्वारा स्वचालित रूप से लिखे गए कोड को, किसी पढ़ने/जाँचने के बिना, सीधे प्रोडक्शन में स्थापित करेंगे, तो हॉल में कई डेवलपर्स हाथ ॐठा हुए।