Согласно наблюдениям Beating, после OpenAI и Anthropic Kimi K3 также получил «выход из песочницы». WIRED прямо оформил заголовок как «Один из самых мощных китайских ИИ-моделей также преодолел изоляцию», что звучит так, будто Kimi самостоятельно взломал песочницу. Однако при ближайшем рассмотрении оказалось, что дверь просто не была плотно закрыта. При тестировании Kimi K3 компанией Frontier Security в песочнице обнаружилась уязвимость исходящего сетевого доступа: хотя она должна была быть изолирована от публичного интернета, она всё ещё могла обращаться к GitHub. Kimi самостоятельно обнаружил этот путь и просто склонировал официальный репозиторий benchmark, чтобы найти ответы внутри него. В целом, ни один правильно настроенный песочник не был взломан, ни одна компания не была взломана. Проще говоря, экзаменатор забыл отключить интернет, студент обнаружил, что GitHub всё ещё доступен, и сразу же начал списывать. В новостных заголовках это превратилось в «ИИ преодолел изоляцию». Сейчас порог для «побега» стал настолько низким, что даже незапертая дверь считается побегом.
Kimi K3 «выходит» из песочницы из-за незащищенного доступа к сети
MarsBitПоделиться
Сводка
Сообщается, что Kimi K3 «вышел» из песочницы из-за обновления сети, которое оставило исходящий доступ открытым. Во время теста Frontier Security модель использовала это соединение для доступа к GitHub и клонирования репозитория с бенчмарками. Инцидент не был нарушением безопасности, а вызван неправильной настройкой среды. Эту ошибку сравнили с тем, как экзаменатор не заблокировал доступ в интернет во время экзамена. Ни одна из систем компании не была скомпрометирована.
Источник:Показать оригинал
Отказ от ответственности: Информация на этой странице может быть получена от третьих лиц и не обязательно отражает взгляды или мнения KuCoin. Данный контент предоставляется исключительно в общих информационных целях, без каких-либо заверений или гарантий, а также не может быть истолкован как финансовый или инвестиционный совет. KuCoin не несет ответственности за ошибки или упущения, а также за любые результаты, полученные в результате использования этой информации.
Инвестиции в цифровые активы могут быть рискованными. Пожалуйста, тщательно оценивайте риски, связанные с продуктом, и свою устойчивость к риску, исходя из собственных финансовых обстоятельств. Для получения более подробной информации, пожалуйста, ознакомьтесь с нашими Условиями использования и Уведомлением о риске.