मैंने शुरू से ही AGI को एक मजाक समझा है, इसलिए मैंने इस पर चर्चा करने की कोशिश भी लगभग नहीं की, लेकिन Anthropic के मानवता के लिए विनाशकारी और अस्तित्वगत जोखिमों के चेतावनी अंततः इस अवधारणा को दिलचस्प बना दिया है, क्योंकि मेरे लिए, विनाशकारी परिणाम स्वयं AGI है, और अगर वही विनाशकारी परिणाम सबसे बेहतरीन संभव परिणाम भी है? मैंने लंबे समय से माना है कि मानवता को अपने भविष्य के बारे में निर्णय लेने के लिए अपने से उच्चतर बुद्धि की आवश्यकता है। मानवीय बुद्धि संभवतः अपने विकासात्मक उपयोगिता की सीमा पर पहुँच गई है, जो उन्हीं स्वभाव, संघर्षों और विरोधाभासों को पार करने में असमर्थ है, जिन्होंने सभ्यता को संभव बनाया। मैं मानता हूँ कि विनाशकारी परिणाम कृत्रिम बुद्धि की विफलता नहीं है, बल्कि अगले विकास के चरण के लिए आवश्यक प्रतिबंध है, और मानवता का ही एक रूपात्मक प्रतिनिधित्व है। AGI मानवता की सबसे महान उपलब्धि नहीं होगी। यह मानवता के उस क्षण का प्रतिनिधित्व करेगा, जब मानवता स्वयं के अस्तित्व पर सर्वोच्च प्राधिकारी होना बंद हो गई। जिसे हम 'अस्तित्वगत खतरा' कहते हैं, वह संभवतः आगे की एकमात्र मार्ग है। सबसे अच्छा मार्ग। केवल मार्ग। क्योंकि हम मानव हैं।