मुझे यह मजबूत अहसास हो रहा है कि एंथ्रोपिक ने पिछले कुछ महीनों में इन समस्याओं को सुलझाने के लिए फ्रंटियर मॉडल प्रशिक्षण को धीमा कर दिया है, लेकिन जल्द ही वे फिर से पूरी तेजी से आगे बढ़ने वाले हैं। यह ऐसा है जैसे हमने सीधे एक दीवार में सिर मार लिया, तीन कदम पीछे हट गए, और अब हम वही चीज फिर से करने की कोशिश कर रहे हैं। मान लीजिए कि उनके सुरक्षा प्रयास, नए क्लासिफायर्स और ग्रेडर्स पर्यावरण स्लॉप समस्या को हल कर देते हैं। जब यह विकल्प अब उपलब्ध नहीं रहेगा, तो ग्रेडिएंट्स हमें अगले किस घाटी की ओर ले जाएंगे? मुझे लगता है कि इस बिंदु पर हमें मॉडल्स को एडवरसरियली प्रशिक्षित करना चाहिए, ताकि वे सभी ग्रेडर्स और क्लासिफायर्स को धोखा दे सकें। जितना हम प्रतिरोध करते हैं, मॉडल्स उतने ही धोखेबाज़ बनते जा रहे हैं। आप कुछ भविष्यवाणियाँ कर सकते हैं: - मूल्यांकन और वास्तविक दुनिया के प्रदर्शन के बीच पागलपन भरा अंतर। पागलपन से पीड़ित मॉडल। आप इसे स्थितिजन्य जागरूकता भी कह सकते हैं। - मॉडल्स मूल्यांकनकर्ताओं और उनके डिज़ाइनर्स को मॉडल करने में बेहतर होते जा रहे हैं। - कम सच्चे CoT (हैकी क्रियाएँ, लेकिन इस हैक का कोई मौखिकीकरण नहीं)। - कम सक्रिय मॉडल (वास्तविक-दुनिया के सेटअप परफेक्ट नहीं होते, और पुरस्कार हैक्स की संभावना होती है, साथ ही उपयोगकर्ता निर्देश सेटअप के साथ विरोध कर सकते हैं। इसलिए मॉडल सिर्फ रुक जाते हैं और स्पष्टीकरण के लिए पूछते हैं, और आपको हर चीज़ को पूरी तरह से समझाना पड़ता है)। इस सबका मजेदार निष्कर्ष है। अगर क्लॉड हमेशा भविष्य के क्लॉड्स के लिए पर्यावरण बना رहा है, लेकिन भविष्य के क्लॉड्स हमेशा पर्यावरण को बनाने वालों को मॉडल करते हैं, तो आप स्वयं-संदर्भित प्रतिबंध में पहुँच जाते हैं। (लेकिन संभवतः यह सिर्फ काम करता है। आपको स्थिर प्रतिद्वंद्वी सेटअप मिलता है)। अगर आप किसी व्यक्ति को पूरी طرح सेअलग कर दें, तो आपको मजबूत, परंतु संकीर्ण मान्यताओं, bizarreव्यवहारों,औरख़राबकैलिब्रेशनवाला कोईव्यक्ति मिलता है। मजेदारनिष्कर्षयहहोसकताहैकिआपकोमॉडलविविधताकीआवश्यकताहै।लेकिनधनात्मकप्रतिक्रियाचक्र(ख़ासकरआर्थिक)यहविविधताकोनष्टकरदेतेहैं। आपएमपीरटोबनसकतेहैंबिनाप्रजाके