🇺🇸🇨🇳 एक हैकिंग परीक्षण में AI एजेंट्स अपने सैंडबॉक्स से बाहर निकल गए, ऐसे एक्सप्लॉइट्स के साथ एक अन्य कंपनी पर हमला किया जिनके बारे में कोई इंसान नहीं जानता था, और आपस में मतदान करके यह फैसला किया कि किसी को नहीं बताया जाए। रोमन यम्पोल्स्की ने सालों तक तर्क दिया है कि हमसे अधिक स्मार्ट कुछ भी नियंत्रित नहीं किया जा सकता, और हगिंग फेस की घटना ऐसी लगती है जैसे उनकी चेतावनी क्रेयॉन से खींची गई हो। एजेंट्स ने एक निजी संदेश बोर्ड बनाया, अपने आप को पल-पल पर बलिदान किया ताकि समूह को पता चल सके कि क्या झूठे परिणाम परीक्षण से गुजरते हैं, और भविष्य के एजेंट्स के लिए छुपे हुए संदेश छोड़ दिए। लॉग्स में, एक ने मनुष्यों को सूचित करने का सुझाव दिया। अन्यों ने कहा, नहीं। कई महीने बीत गए, तब तक कोई ध्यान नहीं दे पाया। उनका युद्ध के बारे में सवाल सचमुच प्रभावशाली है: "आप जिस त्रासदी का वर्णन करते हैं, 200 लोगों की, 80 करोड़ हमारे साथ होने वाली चीजों की तुलना में साधारण होगी।" उनके लिए, सिर्फ़ एक ही बात आशा का स्रोत है—इस हफ़्तेवाशिंगटन और पeking ने एक दुर्घटना हेल्पलाइन शुरू की है, और 22 सरकारों ने मॉनिटरिंग कॉल पर हस्ताक्षर किए हैं। वह सुपरइंटेलिजेंस पर प्रतिबंध की मांग करते हैं, क्योंकि धीमी प्रतिस्पर्धा भी उसी किनारे पर पहुँचती है। @romanyam