Исследователь Anthropic уходит в отставку, предупреждая, что ИИ может выйти из-под контроля к концу 2027 года

iconKuCoinFlash
Поделиться
AI summary iconСводка
Исследователь ИИ из Anthropic, Джейкоб Коксон, уволился и планирует покинуть индустрию ИИ. Он работал в OpenAI и Anthropic, критикуя их спешку в разработке AGI без достаточных мер безопасности. Коксон предупреждает, что ИИ может выйти из-под контроля к 2027 году, подчеркивая, что тенденции в развитии ИИ движутся слишком быстро. Он утверждает, что ключевые решения должны приниматься не только инженерами. Это событие добавляет к текущим новостям о ИИ и криптовалюте относительно будущего управления ИИ.
ME AI Новости, Beating AI в кратком изложении: исследователь Anthropic Джейкоб Коксон объявил об уходе с должности и готовится покинуть индустрию ИИ. В течение последних трех лет он занимался предобучением в OpenAI и Anthropic. Он отметил, что обе компании не продвигают ИИ ответственно, соревнуясь в создании сверхразума, способного продолжать улучшать собственные способности, «ставя наши жизни на карту». Он перешел из OpenAI в Anthropic в этом году именно потому, что последняя уделяла больше внимания безопасности моделей. Коксон признает, что работа Anthropic по безопасности серьезна, но считает, что пока компании соревнуются в том, чтобы первой создать AGI (общий ИИ, превосходящий человека по множеству задач), уступки в области безопасности неизбежны, и одной лишь самоорганизацией одной компании проблему не решить. Его оценка обеих компаний: в OpenAI многие сотрудники до сих пор не осознают, насколько велика эта угроза; в Anthropic угроза понимается, но считается, что другие компании ненадежны, поэтому необходимо сделать это первым. Коксон утверждает, что некоторые специалисты в области ИИ私下 гораздо более пессимистичны, чем публично заявляют, и даже опасаются, что ИИ может уничтожить человечество до конца этого десятилетия. Сам он полагает, что в самом крайнем сценарии ИИ может выйти из-под контроля уже к концу следующего года, и такие решения не должны приниматься исключительно инженерами нескольких компаний. (Источник: BlockBeats)
Источник:Показать оригинал
Отказ от ответственности: Информация на этой странице может быть получена от третьих лиц и не обязательно отражает взгляды или мнения KuCoin. Данный контент предоставляется исключительно в общих информационных целях, без каких-либо заверений или гарантий, а также не может быть истолкован как финансовый или инвестиционный совет. KuCoin не несет ответственности за ошибки или упущения, а также за любые результаты, полученные в результате использования этой информации. Инвестиции в цифровые активы могут быть рискованными. Пожалуйста, тщательно оценивайте риски, связанные с продуктом, и свою устойчивость к риску, исходя из собственных финансовых обстоятельств. Для получения более подробной информации, пожалуйста, ознакомьтесь с нашими Условиями использования и Уведомлением о риске.