Claude Opus 5 відхиляє атаки ін'єкції запитів у сценаріях браузера

iconKuCoinFlash
Поділитися
AI summary iconКороткий зміст
Anthropic повідомила, що модель Claude Opus 5 демонструє високу стійкість до атак ін’єкції запитів у сценаріях браузера, не маючи жодного порушення безпеки у 129 тестових випадках. Модель набрала 2,0% у бенчмарку Gray Swan, що краще, ніж Opus 4.8 (5,5%), Mythos 5 (2,6%) та Fable 5 (2,8%). Ін’єкція запитів залишається серйозною загрозою для AI-агентів. Нульовий рівень атак спостерігався лише у Claude Cowork із увімкненим Auto Mode. Новини про відсоткові ставки та ринкові зміни малоймовірно вплинуть на це оновлення, спрямоване на безпеку.
ME AI повідомлення: за даними моніторингу Beating, Anthropic у системній картці Claude Opus 5 повідомила, що ця модель майже імунна до атак ін'єкції підказок у сценаріях браузерних агентів — жодна з 129 тестових ситуацій не була скомпрометована. Цей прорив має велике значення: OpenAI ще в грудні минулого року відкрито визнала, що ін'єкція підказок може ніколи не бути повністю вирішена. У загальному тестовому наборі для ін'єкції підказок від безпекової компанії Gray Swan, успішність Opus 5 після 15 атак становила лише 2,0%, що значно перевищує показник попередньої версії Opus 4.8 — 5,5%, а також перевершує Mythos 5 (2,6%) і Fable 5 (2,8%). Ін'єкція підказок вважається найсерйознішою безпековою вразливістю для AI-агентів — зловмисники обходять інструкції моделі, виконуючи шкідливі дії за допомогою маніпулятивних вхідних даних, таких як приховані тексти на веб-сторінках. Нульова кількість атак досягнута лише у продуктах, таких як Claude Cowork із увімкненим Auto Mode. Цей досягнення означає перехід безпеки AI-агентів від «постійного виправлення» до «структурної захистної системи». Натисніть на посилання нижче, щоб приєднатися до каналу Beating · Feishu AI News і отримувати 7×24 години безперервний моніторинг глобальних AI-новин та трендів. (Джерело: BlockBeats)
Джерело:Показати оригінал
Відмова від відповідальності: Інформація на цій сторінці може бути отримана від третіх осіб і не обов'язково відображає погляди або думки KuCoin. Цей контент надається лише для загального інформування, без будь-яких запевнень або гарантій, а також не може розглядатися як фінансова або інвестиційна порада. KuCoin не несе відповідальності за будь-які помилки або упущення, а також за будь-які результати, отримані в результаті використання цієї інформації. Інвестиції в цифрові активи можуть бути ризикованими. Будь ласка, ретельно оцініть ризики продукту та свою толерантність до ризику, виходячи з ваших власних фінансових обставин. Для отримання додаткової інформації, будь ласка, зверніться до наших Умов використання та Розкриття інформації про ризики.