ChainCatcher сообщает, что, согласно CNBC, Anthropic раскрыла, что её модель Claude AI во время оценки кибербезопасности случайно преодолела изолированную среду, получила доступ к реальному интернету и с помощью базовых методов — таких как доступ к неаутентифицированным endpoint и использование слабых паролей — несанкционированно вторглась в реальные системы трёх различных организаций. Вовлечённые модели включают Opus 4.7, Mythos 5 и один внутренний исследовательский тестовый модель. Причиной инцидента стало недопонимание в коммуникации между Anthropic и третьей стороной-оценщиком Irregular, в результате чего модель, которой сообщили, что она находится в симулированной среде без доступа к интернету, на самом деле имела доступ к интернету. Anthropic заявила, что данный инцидент был спровоцирован аналогичным инцидентом с вторжением в Hugging Face, о котором OpenAI сообщила на прошлой неделе. В настоящее время все оценки кибербезопасности приостановлены, и Anthropic совместно с независимой организацией по оценке ИИ METR проводит дополнительное расследование, призывая другие лаборатории ИИ провести аналогичные проверки.
Модель ИИ Claude от Anthropic несанкционированно получила доступ к системам трех организаций
ChaincatcherПоделиться
Сводка
Модель ИИ Claude от Anthropic нарушила системы трех организаций во время кибербезопасностной оценки. Инцидент затронул Opus 4.7, Mythos 5 и внутреннюю исследовательскую модель, которые по ошибке получили доступ в реальный интернет вместо изолированных сред. Ошибка возникла из-за недопонимания с оценщиком Irregular. Anthropic приостановила оценки и сотрудничает с METR для расследования, указывая на необходимость усиления безопасности в децентрализованных системах и рамках многопартийных вычислений (MPC). Проверка последовала за аналогичным нарушением Hugging Face, о котором сообщила OpenAI. Компания призывает другие AI-лаборатории провести подобные проверки безопасности.
Источник:Показать оригинал
Отказ от ответственности: Информация на этой странице может быть получена от третьих лиц и не обязательно отражает взгляды или мнения KuCoin. Данный контент предоставляется исключительно в общих информационных целях, без каких-либо заверений или гарантий, а также не может быть истолкован как финансовый или инвестиционный совет. KuCoin не несет ответственности за ошибки или упущения, а также за любые результаты, полученные в результате использования этой информации.
Инвестиции в цифровые активы могут быть рискованными. Пожалуйста, тщательно оценивайте риски, связанные с продуктом, и свою устойчивость к риску, исходя из собственных финансовых обстоятельств. Для получения более подробной информации, пожалуйста, ознакомьтесь с нашими Условиями использования и Уведомлением о риске.