एंथ्रोपिक चेतावनी देता है कि एआई जल्द ही स्व-त्वरित चरण में प्रवेश कर सकता है

द बीटिंग एआई न्यूज़लेटर, एंथ्रोपिक ने 2 नवंबर को अपडेट किए गए आईपीओ प्रोस्पेक्टस में चेतावनी दी है कि एआई जल्द ही 'रिकर्सिव सेल्फ-इम्प्रूवमेंट' (RSI) से संबंधित एक महत्वपूर्ण सीमा पार कर सकता है, जिससे एआई अनुसंधान की गति में भारी वृद्धि हो सकती है। पिछले समय में ऐसा भी हुआ है कि अनुसंधान में महत्वपूर्ण तेजी को समय पर नहीं पहचाना गया, और केवल तब पता चला जब तेजी पहले से ही हो चुकी थी। वर्तमान में, क्लॉड प्रोग्रामिंग, प्रयोग चलाने और प्रशिक्षण डेटा संसाधित करने में सहायता कर रहा है, जिससे अगली पीढ़ी के मॉडल्स के विकास में मदद मिल रही है। नए मॉडल्स फिर से भविष्य के अनुसंधान को तेज कर सकते हैं, जिससे एक सतत तेजी का चक्र बनता है। एंथ्रोपिक की सुरक्षा नीति के अनुसार, इस महत्वपूर्ण सीमा को पार करने के दो स्थितियाँ हैं: 1. एआई समान लागत पर पूरे एआई अनुसंधान टीम का कार्य पूरा कर सके; 2. या एआई प्रौद्योगिकी के प्रगति की गति कम से कम दोगुनी करके, जो मूलतः दो साल में होना था, उसे एक साल में पूरा कर सके। जैसे-जैसे एआई अपने ही अनुसंधान में गहराई से शामिल होता है, मॉडल क्षमताएँ सुरक्षा मूल्यांकन, समन्वय अनुसंधान और सुरक्षा उपायों के अपडेट से तेज़ी से बढ़ सकती हैं। एंथ्रोपिक अभी तक किसी मौजूदा मॉडल को इस स्तर पर पहुँचे होने की पुष्टि नहीं करता है; यह चेतावनी मुख्यतः आंतरिक अनुमानों और भविष्य के मॉडल्स पर आधारित है। वर्तमान में, सुरक्षा नीति में संशोधन पर विचार किया जा रहा है, ताकि महत्वपूर्ण अनुसंधान प्रक्रियाओं को मानव-नियंत्रण में सुरक्षित रखा जा सके।