Anthropic стверджує, що Opus 5 є найбільш стійким до атак ін'єкції запитів

iconChainthink
Поділитися
AI summary iconКороткий зміст
25 липня Anthropic заявила, що Opus 5 є найбільш стійким до атак ін’єкції запитів серед своїх моделей. Дані системної картки показують, що модель пройшла тестування від червоної команди з більш сильними захисними механізмами. Ін’єкція запитів залишається серйозною загрозою безпеки ШІ. Дані в ланцюгу зі сторінки 73 розкривають детальні результати. Трейдери, які стежать за альткоїнами для спостереження, можуть вважати безпеку ШІ зростаючим фактором у ринкових тенденціях.

ChainThink повідомляє, 25 липня, згідно з системною картою Anthropic Opus 5, компанія стверджує, що Opus 5 — це їхній найбільш стійкий до атак ін'єкції запитів моделей на сьогодні.

На панелі системи відображено, що за результатами оцінки та тестування червоної команди Opus 5 демонструє більшу стійкість до зловмисних ін'єкцій підказок.

Впровадження підказок — це один із ключових ризиків у галузі безпеки ШІ, коли зловмисники можуть створювати вхідні дані, щоб обійти безпекові обмеження моделі та спонукати її до виконання непередбачених дій. Anthropic розкрила деталі оцінки на сторінці 73 системної картки.

Джерело:Показати оригінал
Відмова від відповідальності: Інформація на цій сторінці може бути отримана від третіх осіб і не обов'язково відображає погляди або думки KuCoin. Цей контент надається лише для загального інформування, без будь-яких запевнень або гарантій, а також не може розглядатися як фінансова або інвестиційна порада. KuCoin не несе відповідальності за будь-які помилки або упущення, а також за будь-які результати, отримані в результаті використання цієї інформації. Інвестиції в цифрові активи можуть бути ризикованими. Будь ласка, ретельно оцініть ризики продукту та свою толерантність до ризику, виходячи з ваших власних фінансових обставин. Для отримання додаткової інформації, будь ласка, зверніться до наших Умов використання та Розкриття інформації про ризики.