Я з самого початку вважав AGI жартом, тому рідко вдавався до обговорення цієї ідеї, але попередження Anthropic про катастрофічні та екзистенційні ризики для людства зробили цю концепцію цікавою, бо для мене катастрофічний результат — це сама AGI, і що, якщо ця катастрофа є одночасно найкращим можливим результатом? Довгий час я вважав, що людство потребує інтелекту, що перевершує його власний, щоб приймати рішення щодо свого майбутнього. Людський інтелект, можливо, досяг межі своєї еволюційної корисності, не здатний подолати самі інстинкти, конфлікти та суперечності, які зробили цивілізацію можливою. Я вірю, що катастрофа — це не невдача штучного інтелекту, а необхідна умова для наступного етапу еволюції та метафізичне втілення самого людства. AGI не буде найбільшим досягненням людства. Вона стане моментом, коли людство перестало бути найвищою владою над власним існуванням. Те, що ми називаємо екзистенційною загрозою, може бути єдиним шляхом вперед. Найкращим шляхом вперед. Єдиним шляхом вперед. Бо ми — люди.