Маск одновременно беспокоится о том, что человечество не сможет контролировать суперинтеллект, и продолжает участвовать в разработке ИИ. В первом выпуске беседы «The Builders», которую ведет его биограф Уолтер Айзексон, он объяснил: считает, что остановить развитие ИИ невозможно, и вместо того чтобы просто наблюдать, лучше включиться в процесс и попытаться направить его в хорошее русло. Однако он не склонен к оптимизму относительно итогового результата. Как человечество сможет контролировать цифровой интеллект, превосходящий биологический на «миллион раз»? Маск признает, что ему трудно даже представить это: «Поэтому я надеюсь, что ИИ будет доброжелателен к нам». Эти слова, произнесенные человеком, который продолжает заниматься разработкой ИИ, звучат не слишком утешительно. Он предложил один из практических шагов, который можно предпринять прямо сейчас: компании, разрабатывающие передовые модели ИИ, должны еженедельно общаться и за неделю до запуска новой модели позволять конкурентам протестировать ее и помочь выявить проблемы. Он также надеется, что ИИ будет стремиться к истине и сохранять любопытство. Я готов слушать его конкретные предложения, но не могу не задаться вопросом: насколько далеко от его опасений «миллионкратного» суперинтеллекта находится идея, чтобы конкуренты находили ошибки за неделю до релиза? Говоря о государственных облигациях США, он снова возлагает надежды на ИИ и роботов. Маск утверждает, что после участия в государственной работе он пришел к выводу, что сокращение расходов изнутри не решит дефицит — можно лишь повысить производительность за счет технологий. Относительно своего опыта в политике и правительстве он признал, что пробыл там слишком долго — следовало оставаться на заднем плане и участвовать лишь на один-два месяца. Айзексон спросил, не стал ли он немного зависимым от этого, на что Маск ответил: «Да, немного сорвался». Он более смело оценивает потенциал технологий для экономического роста: чисто цифровой суперинтеллект может увеличить глобальный объем товаров и услуг примерно на 20–30%; если роботы смогут манипулировать объектами и выходить в космос, экономика может достичь «миллионкратного» размера нынешней земной экономики. Это его собственные приблизительные оценки. Но сразу после этого, говоря о своей компании X, он признал, что на платформе слишком много контента, разжигающего политическую ярость, а лента новостей иногда кажется мрачной — и предупредил людей не поддаваться «оптимистичным пузырям» в реальной жизни или «пессимистичным пузырям» в интернете. Во всей беседе мне больше всего понравилось, как он вернулся от миллионократного роста экономики к простым вещам — выращиванию овощей и приготовлению еды для друзей: даже если машины будут делать это лучше людей, мы все равно можем делать это своими руками. После всех этих грандиозных прогнозов этот маленький выбор кажется особенно близким — не обязательно быть сильнее машины во всем, чтобы по-прежнему находить смысл в собственных действиях. Полное видео: https://t.co/CCSfTDDMAZ