Илон Маск говорит, что уже слишком поздно останавливать ИИ. Даже он не смог остановить его, сказал основатель xAI The Economist.
Маск говорил с главным редактором The Economist Занни Минтон Биддс в интервью, записанном в понедельник, до того как OpenAI сообщила, что одна из её передовых моделей вышла из-под контроля.
Почему Маск считает, что уже слишком поздно остановить ИИ
Это обратный поворот. В марте 2023 года Маск подписал открытое письмо Института будущего жизни, призывающее к шестимесячной паузе в разработке ИИ-систем, превосходящих GPT-4. Спустя несколько месяцев он основал собственную ИИ-компанию — xAI. Сегодня он не видит никаких ограничений.
Я имею в виду, честно говоря, здесь в области ИИ и робототехники происходит неумолимый прогресс, и даже если бы я хотел остановить его, я не смог бы.
Опасность не уменьшилась в его глазах. Маск остался при своей прежней оценке вероятности в 10–20%, что убийственные роботы уничтожат человечество.
Я всё ещё считаю, что с ИИ и роботами связаны риски. Они не равны нулю.
Тем не менее он выступил против отключения системы. Даже если бы кнопка остановки существовала, он сказал: «мы, вероятно, не должны её нажимать», потому что наиболее вероятный исход — изобилие для всех. Его новая философия умещается в одной строке.
Да, я имею в виду, да, в основном, давайте наслаждаться поездкой — такова моя философия на данный момент.
Суперинтеллект через пять лет
Маск также указал дату.
Я думаю, что ИИ может превзойти сумму человеческого интеллекта примерно через пять лет.
В течение 10 лет, утверждал он, люди, скорее всего, больше не будут у власти. Он сравнил предстоящий разрыв в интеллекте с разрывом между людьми и шимпанзе.
Маск признал, что помог создать этот импульс. В 2015 году он стал сооснователем OpenAI как «существенного противовеса Google». Anthropic позже выделилась из OpenAI. Обе компании теперь опережают регуляторов, и Вашингтон только что одобрил GPT-5.6 от OpenAI для широкого запуска.
Так что кажется, что все пути ведут к ускорению ИИ. Тогда я думаю: ну ладно, можно просто грустить об этом или присоединиться к клубу, предположим.
Ставки выходят далеко за пределы Кремниевой долины. AI-бум уже оттянул капитал от криптовалютных листингов, в то время как AI-токены колеблются от каждого прорыва. Теперь самый богатый человек в мире заявил, что гонка неостановима.
Интервью транслируется в прямом эфире на economist.com.