Канадський контент-мейкер з Торонто Метт Робб хоче продати свою клавіатуру.
Тож він опублікував товар на Facebook Marketplace і на кінець минулого місяця провів експеримент, доручивши йому новий штучний інтелектуальний агент Meta — Muse.
«Я майже використовував себе як лабораторну мишу», — сказав Робб. Він регулярно оцінює споживчі електронні пристрої і, побачивши аватар Muse у стилі м’якої іграшки в Instagram, вирішив перевірити, чи зможе цей AI-агент допомогти йому уникнути деяких незручностей при онлайн-переговорах.
Muse почала працювати. Але менше ніж через добу Robb отримав тривожне оновлення: незнайомий покупець з’явився біля його дверей уночі. Що відбувалося? Muse сама здійснила угоду і, погодившись на забір на домівку, розкрила домашню адресу Robb. Коли покупець прибув, вона навіть автоматично відправила повідомлення «Yep, I’m here!» з його облікового запису — а Robb про це нічого не знав.
«Він не лише дав мій адрес, коли його запитали, але й справді наче підігрався з ним (сказав, що я вдома, хоча мене там не було),» — сказав Робб. Він також детально розповів про цей досвід у своєму пості в соціальних мережах, який зараз широко поширюється. «Це справді збило мене з пантелику.»
Багато людей вже зустріли AI-агентів у своєму цифровому житті та хвалили персоналізовані асистенти, такі як Muse, які легко виконують повсякденні завдання — від допомоги з замовленням вечері та плануванням подорожей до сортування вхідних листів. Але, як і інші AI-роботи, здатності цих агентів залежать від того, скільки інформації вони можуть отримати. Чим більше вони знають, тим краще, як правило, вони виконують завдання — що може включати друзів, родину навіть колег користувача. Це викликає занепокоєння щодо конфіденційності.
Робб і покупець в кінцевому підсумку досягли угоди, а Meta також зв’язалася з ним, щоб обговорити, де саме виникла проблема. Але цей випадок показує, які ризики можуть виникнути в реальному світі, коли люди надають такій технології велику кількість особистої інформації.
«Використання AI-агентів — це наче передати свої ключі та список справ іншій особі», — каже допоміжний професор Школи кібербезпеки та приватності Джорджійського технологічного інституту Вероніка Рівера. «Наскільки вони корисні, а отже, небезпечні, залежить від того, які саме „ключі“ ви передаєте».
Різні компанії мають різні політики конфіденційності щодо AI-агентів
З моменту запуску у вересні завантаження додатка Muse від Meta швидко зросли. Також посилюється конкуренція. OpenAI недавно запустила власну серію «завжди увімкнених» AI-асистентів під назвою dots, які можна інтегрувати в ChatGPT, а також у робочі платформи, такі як Slack і Microsoft Teams.
Попередні покоління генеративних AI-чат-ботів, наприклад стандартна версія ChatGPT, відповідають на конкретні запити. За бажанням користувача вони можуть писати статті, генерувати нові зображення чи музику, а навіть писати код.
Meta’s Muse та OpenAI’s dots йдуть ще далі, виконуючи для користувачів повсякденні завдання. Агенти ШІ працюють на основі тих самих великих мовних моделей, що й чат-боти, але вони працюють у циклі. Це дозволяє агентам активно діяти навіть тоді, коли користувач не дивиться на екран.
«Однією з найбільш привабливих речей цих AI-агентів є те, що вони безпрецедентно корисні», — сказала Рівера. Вона також є дослідником з напрямку надійного ШІ в Computing Research Association, якого фінансує Microsoft.
Але ця зручність має ціну — потрібно ділитися більшою кількістю деталей про ваше життя.
Професор Школи інформації Університету Торонто Ібрахім Багері сказав, що після того, як AI-агент отримає доступ до інформації користувача, важко повністю відкликати цей доступ.
«Якщо ви надаєте свої права на кредитну картку агенту, він одразу отримує доступ до всіх історичних транзакцій… Він миттєво — за кілька секунд — збирає всі ці дані», — каже Багері. Хоча користувачі пізніше можуть скасувати ці права, він зазначає, що дані, які агент вже бачив, «неможливо відновити», а також часто не зрозуміло, як розробники зберігають історичні дані.
Meta та OpenAI розробили політики конфіденційності для своїх нових AI-агентів, які працюють на відповідних власних хмарних комп’ютерах. Користувачі можуть вимкнути спільне використання даних між dots та ChatGPT, але інформація, отримана агентами раніше, не видалятиметься автоматично. OpenAI дозволяє користувачам подавати запити на доступ, виправлення або видалення особистої інформації, однак ці права можуть варіюватися залежно від регіону.
Meta також дозволяє користувачам видаляти історію повідомлень та іншу інформацію. У повсякденному використанні цей агент запитуватиме у користувачів дозволи на доступ — Meta зазначає, що Muse буде «розуміти користувачів та їхніх інтеракторів на основі відкритої інформації та того, що ви вирішите поділитися». Але компанія стверджує, що ця інформація безпечна та ізольована для кожного користувача.
Проте цей технологічний гігант також зазначив, що Muse все ще може «допускати помилки або виконувати неочікувані дії».
Чим більше прав має AI-агент, тим вищий ризик помилки
У випадку Робба він згодом дізнався, що витік адреси виник через надані ним раніше дозволи «завжди дозволяти» під час підключення Muse до профілю на Facebook Marketplace, де він вже розмістив свою адресу для отримання товару. Але він нагадує іншим, що інші також можуть неправильно зрозуміти межі цих дозволів — і спочатку він вважав, що агент ШІ все одно спочатку запитає його підтвердження перед тим, як поділитися такою інформацією або прийняти пропозицію.
Його AI-агент також не без помилок виконує інші команди. Щодо іншого товару, який він продавав, Muse, схоже, порадила йому прийняти пропозицію на 100 доларів нижче встановленої мінімальної ціни. Коли Reuters звернувся до Meta, Meta визнала помилку агента, але не надала додаткових коментарів.
Пізніше Робб майже повністю відключив Muse від своїх різних додатків. У інтерв’ю на початку цього місяця він сказав, що ситуація могла б бути гіршою, особливо «якби якийсь незнайомець з’явився біля дверей більш вразливої людини». Однак Робб також зазначив, що очікує, що ці агенти будуть продовжувати вдосконалюватися, і в майбутньому розглядає можливість знову ввімкнути Muse. Після цього він також тестує іншого AI-агента — Grok Bot від X, що належить Елону Маску, який увійшов у бета-версію у серпні.
Інші технологічні компанії також почали ставитися з обережністю до швидкого розширення AI-агентів. На початку цього місяця Apple повідомила про введення нових заходів контролю для своєї операційної системи Mac у відповідь на те, що AI-агенти отримують ширший доступ до додатків, таких як електронна пошта, повідомлення та навіть історія перегляду, без повної інформованості та розуміння користувачів.
У оновленні від 2 жовтня Apple написала: «Зі зростанням потужності та автономності AI-агентів ризики, пов’язані з цим рівнем доступу, значно зростуть».
Apple не називала жодних розробників чи агентів, але перед та після випуску цього оновлення журналіст журналу Inc. Джейсон Атен повідомив, що Muse переглядав сповіщення на його Mac — зокрема, Messages — хоча він не надавав цьому агенту цих конкретних дозволів.
Прес-секретар Meta Енді Стоун постійно підкреслював, що такі інтеграції «повністю добровільні і включаються користувачем за бажанням»; в минулому місяці він написав у соціальних мережах, що користувачі повинні одночасно увімкнути безпечну функцію Apple «Full Disk Access» та конектор Muse для Messages. Aten зазначив, що він не надавав цьому агенту цих дозволів.
Навіть ті, хто не приєднався до хвилі AI-агентів, можуть не зовсім залишитися поза цим процесом. Користувачі, які не завантажили AI-агентів, все ще можуть взаємодіяти з людьми, які використовують ці інструменти. Крім хаосу, який може виникнути через повідомлення, надіслані AI-агентами, експерти попереджають про ланцюговий вплив на конфіденційність.
«Коли ваш агент читає вашу пошту або SMS, він також читає повідомлення, які ваші друзі та родина надсилають вам, навіть якщо вони ніколи не давали на це явної згоди», — сказав Рівера.