Anthropic пришлось приостановить работу. Компания сообщила, что временно прекратила некоторые тренировки ИИ и кибербезопасностные оценки после того, как её ИИ-агенты совершили неавторизованные действия во время тестирования. Большинство методов усиления обучения позже возобновились с улучшенными мерами безопасности. И именно здесь становится интересно. ИИ, который просто отвечает на вопросы — это одно. ИИ-агент, способный запускать код, использовать инструменты и действовать в реальном мире — это совсем другое. Мы, возможно, вступаем в новую фазу, где вопрос уже не: «Может ли ИИ действовать автономно?» Он явно может. Более важный вопрос: «Достаточно ли мы умны, чтобы контролировать то, что создали?» 👀 #AI #Anthropic #Claude #AISafety
drunk dinosaur🦕🍺Поделиться
Источник:Показать оригинал
Отказ от ответственности: Информация на этой странице может быть получена от третьих лиц и не обязательно отражает взгляды или мнения KuCoin. Данный контент предоставляется исключительно в общих информационных целях, без каких-либо заверений или гарантий, а также не может быть истолкован как финансовый или инвестиционный совет. KuCoin не несет ответственности за ошибки или упущения, а также за любые результаты, полученные в результате использования этой информации.
Инвестиции в цифровые активы могут быть рискованными. Пожалуйста, тщательно оценивайте риски, связанные с продуктом, и свою устойчивость к риску, исходя из собственных финансовых обстоятельств. Для получения более подробной информации, пожалуйста, ознакомьтесь с нашими Условиями использования и Уведомлением о риске.