एंथ्रोपिक के सीईओ डेरियो अमोदेई ने एआई के विरोध को संचार की समस्या नहीं, बल्कि विश्वास की संकट कहा है

डैरियो अमोदेई अपने सहकर्मी AI निर्देशकों के लिए संदेश रखते हैं जो सोचते हैं कि जनता को बेहतर पीआर की आवश्यकता है: समस्या संदेशन नहीं, बल्कि उत्पाद है।

एंथ्रोपिक के सीईओ ने “एआई एक्सपोनेंशियल पर नीति” शीर्षक से एक लंबा निबंध प्रकाशित किया जो कृत्रिम बुद्धिमत्ता के खिलाफ बढ़ते प्रतिक्रिया का सीधे सामना करता है। नकारात्मक मीडिया कवरेज या उद्योग नेताओं द्वारा निराशावादी ढंग से प्रस्तुति को दोष न देकर, अमोडेई का तर्क है कि एआई के बारे में जनता की चिंता वास्तविक, अच्छी तरह से दस्तावेजबंद जोखिमों पर आधारित है। उनका निदान: एआई उद्योग एक संचार संकट के बजाय विश्वास के संकट का सामना कर रहा है।

अमोडेई के निबंध में चार विशिष्ट जोखिम श्रेणियों की पहचान की गई है, जिन्हें वह गंभीर चिंता का विषय मानते हैं: साइबर सुरक्षा खतरे, जैविक हथियार विकास, एआई प्रणालियों पर मानव नियंत्रण का खोना, और पूर्णतः स्वचालित अनुसंधान और विकास की संभावना।

अमोडेई मूल रूप से इस तर्क को पीछे की ओर कहते हैं। लोग चिंतित नहीं हैं क्योंकि एआई नेता चेतावनी देते हैं। वे चिंतित हैं क्योंकि चेतावनियाँ उचित हैं।

उस पोज़ीशन का समर्थन करने के लिए, वह बड़ी गणना संसाधनों के साथ प्रशिक्षित मॉडल्स के लिए अनिवार्य तीसरे पक्ष के मूल्यांकन का प्रस्ताव दे रहा है। परीक्षण उन्हीं चार जोखिम श्रेणियों को कवर करेगा, जिससे AI प्रयोगशालाओं और जनता के बीच एक स्वतंत्र पुष्टि परत बनेगी।

एंथ्रोपिक अमोडेई के शब्दों के पीछे पैसा लगा रही है। कंपनी ने एआई के व्यापक सामाजिक प्रभावों को समझने पर केंद्रित अनुसंधान के लिए 200 मिलियन डॉलर का प्रतिबद्धता दी है।

निवेश का उद्देश्य तकनीकी सुरक्षा से कहीं अधिक विस्तृत प्रश्नों पर कार्य को वित्तपोषित करना है। अमोदेई ने स्पष्ट रूप से मजदूरी पुनर्बीमा कार्यक्रमों और ऐसे लक्षित कर उपायों की मांग की है, जो एआई स्वचालन द्वारा होने वाले श्रम बाजार के विक्षेपों को कम करने के लिए डिज़ाइन किए गए हैं।

एबीसी न्यूज़ के साथ एक अनन्य साक्षात्कार में, जो निबंध के प्रकाशन के साथ समयबद्ध था, अमोदेई ने अतिरिक्त नीति प्रस्तावों का वर्णन किया। सबसे उल्लेखनीय में से एक: सरकारी एजेंसियों को असुरक्षित माने जाने वाले एआई डिप्लॉयमेंट्स को रोकने का अधिकार देना।

उनका पसंदीदा ढांचा मौजूदा नियामक मॉडलों पर आधारित है। FAA की तुलना जानबूझकर की गई है। विमानन सुरक्षा नियमन ने एयरलाइन उद्योग को नष्ट नहीं किया। इसने हवाई यात्रा को पृथ्वी पर सबसे सुरक्षित द्रव्यमान परिवहन के रूप में बना दिया।