Илон Маск: риск катастрофы, связанной с ИИ, «не нулевой», но человечеству не следует тормозить

ME News сообщает, 23 июля (UTC+8), по данным мониторинга Beating, Маск в интервью The Economist подробно изложил свою новую позицию по ИИ: хотя риск катастрофы из-за потери контроля над ИИ и роботами «не равен нулю», он считает, что человечество не должно препятствовать его развитию: «Иногда я даже думаю, что даже если бы действительно существовала кнопка остановки, мы, возможно, не должны были бы её нажимать, потому что наиболее вероятный результат — это беспрецедентное процветание для всех». Маск прогнозирует, что ИИ превзойдёт совокупный интеллект всего человечества примерно через пять лет, и тогда, за исключением глобальных катастроф, таких как ядерная война, мир войдёт в удивительную эпоху изобилия, когда люди смогут иметь практически всё, о чём только смогут подумать. Когда его спросили, остаётся ли его прежняя оценка вероятности катастрофического выхода ИИ из-под контроля на уровне 10–20%, Маск ответил утвердительно, сравнив это с ракетами: «Если бы у ракеты была такая же вероятность взрыва, я всё равно бы в неё сел, потому что, если вы не можете повлиять на это, единственное, что вы можете сделать — это максимально снизить вероятность негативных последствий». Позиция Маска по ИИ претерпела значительную эволюцию: в 2014 году он сравнивал разработку ИИ с призывом демона, в 2018 году заявил, что «ИИ намного опаснее ядерного оружия», а в 2025 году по-прежнему считал вероятность уничтожения человечества убийственными роботами на уровне 10–20%. Однако в этом году он явно сместился в сторону утопического нарратива — в январе он заявил, что копить деньги на пенсию станет бессмысленно, а в этом месяце предсказал, что ИИ и роботы сделают работу опциональной и создадут общество всеобщего высокого дохода. Маск подчеркнул, что человечество вряд ли сможет сохранить контроль над ИИ в ближайшие десять лет: «Считать, что вы можете контролировать сверхразумный ИИ, намного более умный, чем вы сами — это лишь самонадеянность». Настоящая задача — обеспечить, чтобы ИИ обладал правильными ценностями и заботился о благополучии человечества. Маск также сообщил, что порекомендовал генеральному директору Google DeepMind Хассабису, чтобы руководители ведущих мировых компаний в области ИИ регулярно проводили телефонные совещания для совместного обсуждения вопросов безопасности ИИ и кибербезопасности, считая, что даже конкуренты могут взаимно контролировать и сдерживать друг друга. Нажмите на ссылку ниже, чтобы присоединиться к каналу Beating · Feishu AI News и получать круглосуточный мониторинг глобальных трендов и новостей в области ИИ. (Источник: BlockBeats)