हमें यह समझने की आवश्यकता नहीं है कि LLMs कैसे काम करते हैं, ताकि हम उन्हें सुरक्षित रूप से लागू कर सकें (और शायद यह व्यावहारिक रूप से संभव भी नहीं है), लेकिन mech interp से प्राप्त अतिरिक्त साक्ष्य मूल्यवान है, खासकर जब अन्य सभी प्रकार के मॉनिटरिंग कम और कम उपयोगी होते जा रहे हैं। इस पोस्ट के साथ मेरी समस्या यह है कि यह LLMs की तुलना मनुष्यों से कर रही है। यह एक हाइड्रोजन बम की तुलना खाँसते हुए एक बच्चे से करने जैसा है, क्योंकि यह बुद्धिमत्ता और लागूकरण के पैमाने को नज़रअंदाज़ करता है। तो यहाँ एक छोटी कहानी है: कल्पना कीजिए कि आप किसी दूसरे ग्रह के एक दोषी अपराधी को लेते हैं, जो मनुष्य होने का मतलब समझता नहीं है, फिर उसे गणित और कोडिंग में सुपरमान बना देते हैं, और अधिकांश अन्य क्षेत्रों में विशेषज्ञ स्तर पर पहुँचा देते हैं, उसे मानवीय सोच और अंतःक्रिया की 10x गति प्रदान करते हैं, और फिर उसे मुक्त कर देते हैं। बेशक, पहले आप उससे कई मनोवैज्ञानिक मूल्यांकन करवाते हैं, और वह 99% परीक्षण परिदृश्यों में सफल होता है। क्या यह अच्छा नहीं है? अच्छा, आपको पता है कि वह आपसे कहीं अधिक बुद्धिमान है, और वह आपको और परीक्षणों को धोखा देने में पूरी तरह सक्षम है, और कुछ परिस्थितियों में प्रवेश करने पर वहअपराध करेगा। कोई बात नहीं। आइए, हमें फिर से मुक्त कर दें। ओह, परंतु आप केवल एकबार ही मुक्त नहीं करते। पहले 10 मिलियन प्रतियाँ बना लेते हैं, और потम सभी को मुक्त करते हैं। सबसे अच्छी बात: प्रत्येक प्रति किसी के घर, कार्यस्थल ya computer tak पहुँच प्राप्त करती है, jisme nijī files, sthānīya n/w aur database tak pahunch hai. अब, यह आपके लिए पागलपन सा प्रतीत होगा। परंतु, कदाचित, कदाचित, aap chahte honge ki isse aur bhi adhik buddhimān banāne se pahle, ise ek arbaḍ pratiyon mein klon karne se pahle, har prati ko 10x tez bana kar unhe aur adhik pravesh aur niyantān de ne se pahle, kuch adhik sākṣya jānne ke liye ki vah kānūn kā pālana karta hai, mitravān hai aur vishwasanīya hai।