F-Secure виявив 26 способів, якими ШІ може завдати шкоди споживачам, та способи запобігання цим ризикам
Нова класифікація шкоди від ШІ відстежує, як шкода поширюється в системах ШІ — від неправильних відповідей чат-ботів до скомпрометованих автономних агентів — і визначає, на яких етапах можна застосувати захисні заходи.
Лос-Анджелес, 10 листопада (Reuters) / PRNewswire — Штучний інтелект зараз впливає на те, як ми шукаємо, спілкуємося, приймаємо рішення та керуємо цифровим життям. Але що саме може завдати шкоди людям, коли він помиляється? Останній випуск F-Secure AI Harms Taxonomy картирує 26 різних видів шкоди для споживачів, відстежуючи, як кожен вид шкоди досягає користувача. Результат — чітке зображення того, де можна втрутитися з захисними заходами та хто найбільш здатний надати допомогу.
Цю класифікацію розробила доктор Меган Скайр з F-Secure, щоб виправити одну з пробілів у дискусіях про ризики ШІ. Більшість рамок лише перелічують можливі точки невдачі, але не зв’язують ці шкоди з системами та компаніями, які можуть їх запобігти. Дослідження F-Secure йде далі, розкриваючи кожен рівень між ШІ-загрозами та їх впливом на споживачів і, відповідно, вказуючи, де слід розгорнути захист.
Доктор Сквайр сказав: «Зі зростанням здатностей AI-систем наслідки їхніх помилок можуть бути набагато серйознішими, ніж просто поганий відповідь. Розробники цих систем мають відповідальність розуміти, як вони можуть вийти з ладу, кого це пошкодить, і встановити захисти до того, як шкода станеться».
Ця класифікація відображає те, що сам ризик змінюється. Раніше злочинці могли безпосередньо цілитися в окрему особу, але зараз між ними знаходиться ШІ, що додає нових учасників і нові способи помилок. Асистент, який діє від імені іншої особи, може бути маніпульований для завдання шкоди, а чат-боти можуть впевнено вводити користувачів в оману. На більш глибокому рівні проблеми часто починаються з того, як ШІ обробляє інструкції та пам’ять або з того, до яких інших сервісів він підключений.
Це дослідження класифікує 26 видів шкоди за п’ятьма типами відносин і 19 рівнями посередництва та розробило 24 заходи захисту для вирішення ризиків на різних етапах. Приклади включають підроблення голосу та відео, створених за допомогою ШІ, шкідливі фінансові рішення, прийняті агентами, розголошення особистої інформації або дії в застарілих контекстах. Дослідження також розглядає атаку, при якій зловмисні інструкції приховані в контенті, який обробляється системою ШІ, що може впливати на поведінку агента або на те, що чат-бот повідомляє користувачам.
Однією з ключових виявлених ідей цієї рамки є те, що відповідальність за запобігання шкоді з боку ШІ розподілена між кількома учасниками. Деякі ризики можна вирішити за допомогою програмного забезпечення безпеки на особистих пристроях; інші повинні бути вирішені на більш ранніх етапах компаніями, які розробляють продукти ШІ та їхні базові системи, включаючи те, як ШІ запам’ятовує інформацію та з якими іншими сервісами він пов’язаний. Визначення того, хто відповідає за кожен етап, допомагає зрозуміти, де мають розташовуватися захисні заходи та хто повинен їх створювати. Це також ослаблює переконання, що люди можуть залишатися в безпеці лише шляхом виявлення підозрілого контенту або постійної перевірки інформації, наданої ШІ.
Зі зміною штучного інтелекту з «генерації інформації» на «дії на основі інформації» питання відповідальності стає більш терміновим. Якщо чат-бот дає неправильну відповідь, це може ввести користувача в оману, але принаймні користувач все ще бере участь у цій взаємодії; тоді як агент, який має доступ до облікового запису користувача та пов’язаних служб, може призвести до реальних наслідків без такої двосторонньої підтвердження. Захисні заходи повинні будуватися навколо того, що ці системи насправді роблять, а для цього спочатку необхідно розуміти різницю між чат-ботами та агентами.
Створення захисту для AI-агентів
Це дослідження є частиною ширшого зусилля F-Secure щодо побудови довіри в епоху ШІ. F-Secure Trust, оголошений разом із стратегічним альянсом з Quantum AI Lab QuTwo, є частиною роботи компанії з захисту користувачів у світі, де ШІ-агенти все частіше діють від імені людей. TrustGuard спрямований на захист безпеки людей під час взаємодії з ШІ, а TrustPath — на захист їхнього цифрового шляху від виявлення до доставки. Класифікація шкідливих наслідків ШІ надає наукову основу для цих ініціатив, чітко визначаючи ризики, які потрібно виключити, а також підкреслюючи, що ефективний захист залежить також від компаній, які створюють та експлуатують ШІ-системи.
Гуманістичні дослідження в епоху ШІ
Сучасні цифрові загрози давно вийшли за межі шахрайства. Команда Illuminate Research компанії F-Secure досліджує, як люди і технології взаємодіють у реальному світі, розкриваючи складну реальність довіри, обману та онлайн-стійкості в епоху ШІ. Класифікацію шкідливих наслідків ШІ можна отримати на Illuminate Research Hub.
Про F-Secure
F-Secure — це компанія зі спрямованістю на людину та з використанням ШІ, яка надає споживчі мережеві безпекові рішення, маючи 38 років досвіду у вирішенні цифрових загроз. Компанія допомагає цифровим провайдерам перетворювати довіру на джерело високодоходного зростання — захищаючи їхніх клієнтів та допомагаючи їм жити кращим цифровим життям у світі, наповненому штучним інтелектом. Щороку компанія захищає мільярди цифрових взаємодій, захищаючи десятки мільйонів споживачів по всьому світу та створюючи для партнерів понад 10 мільярдів доларів вартості, що підтверджує її масштабний вплив.
Контакт для ЗМІ:
- Меган Сойер, старший менеджер з приватних зв’язків, [email protected]
- Джоел Латто, консультант з питань загроз та менеджер з PR у регіоні EMEA, [email protected]
Вищезазначена інформація надана Cision: http://news.cision.com

