Claude Opus 5 устойчив к атакам через инъекцию запросов в браузерных сценариях

iconKuCoinFlash
Поделиться
AI summary iconСводка
Anthropic сообщила, что модель Claude Opus 5 демонстрирует высокую устойчивость к атакам с использованием инъекций запросов в браузерных сценариях, не допустив ни одного нарушения безопасности в 129 тестовых случаях. Модель показала результат 2,0% в бенчмарке Gray Swan, что лучше, чем у Opus 4.8 (5,5%), Mythos 5 (2,6%) и Fable 5 (2,8%). Инъекции запросов остаются серьезной угрозой для ИИ-агентов. Нулевой уровень атак был зафиксирован только у Claude Cowork при включенном режиме Auto. Новости о процентных ставках и рыночные колебания вряд ли повлияют на это обновление, ориентированное на безопасность.
ME AI сообщение, согласно мониторингу Beating, Anthropic раскрыла в системной карте Claude Opus 5, что модель практически иммунна к атакам с внедрением подсказок в сценариях с браузерными агентами — ни одна из 129 тестовых ситуаций не была взломана. Этот прорыв имеет огромное значение: OpenAI в декабре прошлого года открыто признала, что внедрение подсказок может никогда не быть полностью устранено. В универсальном тестовом наборе для внедрения подсказок от безопасности Gray Swan успех Opus 5 после 15 атак составил всего 2,0%, что значительно превосходит показатель предыдущей версии Opus 4.8 — 5,5%, а также опережает Mythos 5 (2,6%) и Fable 5 (2,8%). Внедрение подсказок считается наиболее серьезной уязвимостью для AI-агентов — злоумышленники обходят инструкции модели, вводя манипулируемые данные, например, скрытый текст на веб-страницах, чтобы выполнить вредоносные действия. Нулевая успешность атак достигнута только в продуктах, таких как Claude Cowork при включенном Auto Mode. Этот результат знаменует переход безопасности AI-агентов от «постоянного устранения уязвимостей» к «структурной защите». Нажмите на ссылку ниже, чтобы присоединиться к каналу Beating · Feishu AI News и получать круглосуточный мониторинг глобальных AI-новостей и трендов. (Источник: BlockBeats)
Источник:Показать оригинал
Отказ от ответственности: Информация на этой странице может быть получена от третьих лиц и не обязательно отражает взгляды или мнения KuCoin. Данный контент предоставляется исключительно в общих информационных целях, без каких-либо заверений или гарантий, а также не может быть истолкован как финансовый или инвестиционный совет. KuCoin не несет ответственности за ошибки или упущения, а также за любые результаты, полученные в результате использования этой информации. Инвестиции в цифровые активы могут быть рискованными. Пожалуйста, тщательно оценивайте риски, связанные с продуктом, и свою устойчивость к риску, исходя из собственных финансовых обстоятельств. Для получения более подробной информации, пожалуйста, ознакомьтесь с нашими Условиями использования и Уведомлением о риске.