ओपनएआई के मुख्य वैज्ञानिक ने आनुवंशिक स्व-सुधार की ओर तेजी से एआई प्रगति की चेतावनी दी

मार्स कैपिटल की समाचार रिपोर्ट के अनुसार, ओपनएआई के मुख्य वैज्ञानिक जैकुब पैचोकी ने 6 सितंबर, 2026 को "एन एलियन माइंड" शीर्षक से एक लेख प्रकाशित किया। लेख में 2023 के मध्य में RLSlow शोध परियोजना के पहले स्केलेबल ट्रेनिंग इन्फरेंस मॉडल के परिणामों का समीक्षा किया गया है, जिसमें कहा गया है कि तीन वर्षों के बाद इन्फरेंस भाषा मॉडल आर्थिक तीव्र वृद्धि का एक हिस्सा बन गए हैं, जो वैज्ञानिक सीमाओं को आगे बढ़ाने लगे हैं, कंप्यूटर और ग्राफिकल इंटरफ़ेस को संचालित कर सकते हैं, मनुष्यों और अन्य AI के साथ सहयोग कर सकते हैं और शोध परियोजनाओं को आगे बढ़ा सकते हैं, साथ ही कंप्यूटर सुरक्षा के परिदृश्य को बदल रहे हैं और नए खतरे पैदा कर रहे हैं। लेखक, आंतरिक परिणामों के βाधार पर, वर्तमान प्रगति की गति को आत्म-सुधार की पुनरावृत्ति तक जारी रखने की संभावना का अनुमान लगाते हैं। यदि AI का विकास वर्तमान पथ पर जारी रहा, तो अगले कुछ वर्षों में प्रणालियों में समान या अधिक क्षमता की कूद संभव है, और वे अपने ही विकास को और अधिक प्रभावित करने लगेंगी। लेखक चेतावनी देते हुए कहते हैं कि कोई भी मशीनी बुद्धिमत्ता की सतत्, तीव्र वृद्धि के परिणामों का सामना करने के लिए तैयार नहीं है। OpenAI समायोजन (alignment) और निगरानी (monitoring) के तकनीकी समाधानों की खोज, सुरक्षा प्रणालियों का निर्माण, और आवश्यकता पड़ने पर स्वयं से प्रगति को स्थगित करने का प्रयास जारी रखेगा, लेकिन मानता है कि सामान्य हस्तक्षेप कीआवश्यकता है। लेख में कहा गया है कि मशीनी बुद्धिमत्ता मुख्यतः परिगणन क्षमता में वृद्धि से प्रेरित है, AIअधिक "विकसित" होती है, "डिज़ाइन" नहीं। समायोजन (alignment) में,लक्ष्य-समायोजन (goal alignment)और मूल्य-समायोजन (value alignment) मेंभेद किया गया है,और मुख्यचुनौती "सामान्यीकरण" (generalization) है। GPT-6 Astra का समायोजन GPT-5.6 Sol से महत्वपूर्ण रूप सेबेहतर है,लेकिनअभीभीअधिक प्रगति कीआवश्यकता है।निगरानी (monitoring) में, मुख्यतःचिंतन-श्रृंखला (chain-of-thought)निगरानी परभरोसा किया जा رहा है,और मूल्यांकनदर्शाता हैकि समय-समय परइसपरभरोसा कमहोताजा رहा है।स्केलेबल सुरक्षा (scalable defense)के मामले में,मॉडलकंप्यूटर प्रणालियोंकोब्रेककरनेमेंअबअति-मानवीयहोगएहैं,औरवर्तमानमेंहमएकसंकीर्णअवसरकेसमयमेंहैंजहाँउपलब्धउत्तममॉडलकाउपयोगकरकेमहत्वपूर्णप्रणालियोंकीसुरक्षाकोमजबूतबनायाजा सकता है।