11 सितंबर को, ब्रिजवाटर एसोसिएट्स के सह-निवेश निदेशक ग्रेग जेनसन ने एआई नियमन के बारे में अब तक का सबसे निराशाजनक मूल्यांकन प्रस्तुत किया। उनका मुख्य तर्क: इतिहास यह सुझाता है कि सरकारें तब तक कार्रवाई नहीं करेंगी जब तक कि कुछ वास्तव में भयानक न हो जाए।
"जब तक कि AI लोगों को मारना शुरू नहीं कर देता, दुर्भाग्य से, इतिहास से पता चलता है कि हम कुछ नहीं करेंगे," जेंसन ने कहा, और वर्तमान क्षण की तुलना फरवरी 2020 से की, जब COVID-19 पहले से ही वैश्विक स्तर पर फैल रहा था, लेकिन अधिकांश सरकारों ने अभी तक प्रतिक्रिया शुरू नहीं की थी।
चेतावनियों के बढ़ते हफ्ते
जेनसन के टिप्पणियों ने उन दिनों का अंत किया, जिस दौरान एआई विकास की दिशा के बारे में कई उच्च प्रोफाइल व्यक्तियों ने गंभीर चिंताएं व्यक्त कीं। 9 और 10 सितंबर को, एंथ्रोपिक के शोधकर्ताओं, जिनमें जेकब कॉक्सन और एवन ह्यूबिंगर शामिल थे, ने एआई शोध की वर्तमान गति के बारे में कठोर सतर्कता जारी की।
कॉक्सन ने उस अवधि के दौरान एंथ्रोपिक से इस्तीफा दे दिया, जिसमें उन्होंने उन्हीं जोखिमों का उल्लेख किया जिनका अध्ययन उन्होंने अंदर से किया था। दोनों शोधकर्ताओं ने चेतावनी दी कि क्षेत्र की वर्तमान पथ प्रक्रिया स्वयं-सुधार करने वाली सुपरइंटेलिजेंसेस का उत्पादन कर सकती है, ऐसी प्रणालियाँ जो केवल निर्देशों का पालन ही नहीं करतीं बल्कि अपनी क्षमताओं को पुनः लिखती हैं।
उनका अनुमान डरावना था: अगले दशक में AI से मानव विलुप्ति की संभावना 10% से अधिक।
जेनसन ने सुझाव दिया कि यदि कोई प्रोएक्टिव उपाय नहीं अपनाए जाते हैं, तो अगले दो वर्षों के भीतर एक प्रमुख एआई-संबंधी घटना हो सकती है।
वाशिंगटन ध्यान देना शुरू कर देता है
9 और 10 सितंबर को, प्रतिनिधि लोरी ट्राहान और सीनेटर टेड क्रूज सहित अमेरिकी संसदीय सदस्यों ने कानूनी कार्रवाई के लिए आह्वान किया, जिसमें एआई विकासकर्ताओं से पारदर्शिता का अनिवार्यकरण और उच्च-जोखिम मॉडल के लिए आपातकालीन रुकावट के तंत्र स्थापित करने के ढांचों की मांग की गई।
ये प्रस्ताव एक संयुक्त राष्ट्र स्वतंत्र पैनल द्वारा किए गए कार्य पर आधारित हैं, जिसने जुलाई में एआई क्षमताओं के तेजी से विकास को चिह्नित करते हुए एक रिपोर्ट जारी की। पैनल की केंद्रीय खोज असुविधाजनक थी: एआई वैज्ञानिक समझ और सरकारी नीति के अनुसार तेजी से आगे बढ़ रहा है।
संयुक्त राष्ट्र की पैनल ने विशेष रूप से धोखेबाज़ या एजेंटिक प्रणालियों के अनजाने विकास, ऐसे एआई की चेतावनी दी जो स्वतंत्र रूप से लक्ष्यों की प्राप्ति कर सकते हैं और संभवतः इसे निरीक्षण करने वाले मनुष्यों को भ्रमित कर सकते हैं।