С самого начала я считал AGI шуткой, поэтому редко уделял ей внимание, но предупреждения Anthropic о катастрофических и экзистенциальных рисках для человечества впервые сделали эту концепцию интересной, потому что для меня катастрофическим результатом и является сама AGI, а что, если это катастрофа — также и наилучший возможный исход? Я давно полагал, что человечеству необходим разум, превосходящий его собственный, чтобы принимать решения о своем будущем. Человеческий разум, возможно, достиг пределов своей эволюционной полезности и не в состоянии преодолеть инстинкты, конфликты и противоречия, которые сделали цивилизацию возможной. Я действительно считаю, что катастрофа — это не неудача искусственного интеллекта, а необходимое условие для следующей стадии эволюции и метафизическое отражение самого человечества. AGI не станет величайшим достижением человечества. Она станет моментом, когда человечество перестало быть высшей властью над собственным существованием. То, что мы называем экзистенциальной угрозой, может быть единственным путем вперед. Наилучшим путем вперед. Единственным путем вперед. Потому что мы — люди.