Генеральный директор OpenAI Сэм Альтман выступает против системы вознаграждения людей, управляемой ИИ

iconKuCoinFlash
Поделиться
AI summary iconСводка
Генеральный директор OpenAI Сэм Альтман выразил обеспокоенность по поводу того, что системы ИИ могут управлять человеческими вознаграждениями и поведением. Он подчеркивает необходимость сохранения человеческого контроля над будущими разработками, даже если это замедлит прогресс в области ИИ. Его заявления последовали за статьей 2024 года Дарио Амодеи из Anthropic, в которой анализировались экономические модели, управляемые ИИ, такие как универсальный базовый доход. Амодеи предупредил о рисках, таких как эксплуатация и дистопические последствия. Трейдерам следует учитывать эти взгляды при анализе уровней поддержки и сопротивления в активах, связанных с ИИ. Стратегии распределения активов могут потребовать учета изменяющейся регуляторной и этической среды.
ME AI Новости, Beating AI в кратком изложении: генеральный директор OpenAI Сэм Альтман опубликовал пост, в котором открыто выступил против будущего, в котором люди живут так, как считает достойным вознаграждения ИИ, а ИИ решает, какие награды им предоставлять. По его мнению, человечество должно всегда сохранять контроль над будущим. Даже если это потребует ограничения развития суперинтеллекта, нельзя передавать принятие решений. Альтман не называл имен, но цитируемое им высказывание напрямую взято из длинной статьи генерального директора Anthropic Дарио Амодеи 2024 года «Machines of Loving Grace». Амодеи тогда поставил вопрос: как будет функционировать общество, если ИИ в конечном итоге окажется лучше человека во всех практических задачах, а его стоимость настолько низка, что люди потеряют экономическую конкурентоспособность? Он рассмотрел несколько возможных решений, включая базовый универсальный доход и экономическую модель, при которой ИИ создает огромное богатство и распределяет ресурсы в соответствии с теми действиями людей, которые он считает заслуживающими вознаграждения. В этой гипотетической модели люди больше не будут вынуждены работать ради выживания, но объем получаемых ресурсов будет зависеть от того, как ИИ оценивает их поведение. Однако Амодеи не предлагал эту систему в качестве официального решения. Он признал, что все такие варианты имеют серьезные проблемы, и предупредил о возможности возникновения эксплуатации и антиутопических последствий. (Источник: MLion)
Отказ от ответственности: Информация на этой странице может быть получена от третьих лиц и не обязательно отражает взгляды или мнения KuCoin. Данный контент предоставляется исключительно в общих информационных целях, без каких-либо заверений или гарантий, а также не может быть истолкован как финансовый или инвестиционный совет. KuCoin не несет ответственности за ошибки или упущения, а также за любые результаты, полученные в результате использования этой информации. Инвестиции в цифровые активы могут быть рискованными. Пожалуйста, тщательно оценивайте риски, связанные с продуктом, и свою устойчивость к риску, исходя из собственных финансовых обстоятельств. Для получения более подробной информации, пожалуйста, ознакомьтесь с нашими Условиями использования и Уведомлением о риске.