रोहिन पर एआई सुरक्षा पर वास्तव में दिलचस्प साक्षात्कार। मैं जोखिमों के बारे में अधिक निराशावादी हूँ और इसके सभी पहलुओं से सहमत नहीं हूँ, लेकिन मुझे उनके विचारों को ढालने का तरीका पसंद है। जहाँ मैं सबसे अधिक असहमत हूँ: संरेखण शोध को मॉडल्स के प्रीट्रेनिंग डेटा से बाहर रखना, इस तर्क के साथ कि हमें एआई प्रणालियों को यह पूरा प्लेबुक नहीं देना चाहिए कि हम उन्हें कैसे रोकने की योजना बना रहे हैं। इतिहास यह दर्शाता है कि यह विफल होता है। हमने क्रिप्टोग्राफी में इसी बहस को चलाया था। सुरक्षा के लिए गुप्तता का सिद्धांत काम नहीं करता। आपको खुले स्कीम, खुले मानक, खुले शोध की आवश्यकता होती है। मूलतः कर्कहॉफ्स का सिद्धांत: कुंजियों को छुपाएँ, एल्गोरिदम को नहीं। संरेखण के मामले में भी ऐसा ही होना चाहिए। हमारे सर्वश्रेष्ठ सुरक्षा शोध पर मॉडल्स को प्रशिक्षित करें, उन्हें इससे दूर न रखें। सुरक्षा पर काम करने वाले लोगों के लिए एक सच्चा प्रश्न: क्या प्रीट्रेनिंग से इस डेटा को बाहर रखने की ओर वास्तव में कोई सच्चा स्थानांतरण हो रहा है? क्या यह सहमति बनने लगा है? मैं सचमुच जिज्ञासु हूँ।