Генеральний директор Signal Мередіт Віттакер у інтерв’ю з Bloomberg сказала, що користувачі не повинні сприймати такі системи, як ChatGPT та Claude, як «друзів» або суб’єктів із суб’єктивним свідомістю. Вона зосередилася на питаннях конфіденційності та прав доступу, вважаючи, що ризики швидко зростають, коли такі інструменти глибоко інтегровані в особисті сервіси.
Віттакер про межі використання ШІ
Віттакер сказала, що сама використовує інструменти ШІ лише в декількох випадках, наприклад, для форматування документів, але не передає процеси постановки запитань, міркувань і письма моделям. Вона зазначила, що не хоче, щоб система, яка генерує відповіді на основі існуючої інформації, замінювала процес міркувань, який має виконувати особисто людина.
Стурбованість щодо отримання сенситивних дозволів між додатками
Вона також відгукувалася на ідею, запропоновану раніше керівником штучного інтелекту Microsoft Мустафою Сулейманом, що користувачі можуть доручити Microsoft Copilot здійснити покупки на Різдво. Віттейкер вважає, що для реалізації такого сценарію система повинна отримувати великий обсяг особистих даних та виконувати дії між кількома сервісами.
- Кредитні карти та інформація про оплату
- Історія перегляду браузера
- Зміст сигналів та контакти
Крім вищезазначеної інформації, такі системи можуть отримувати доступ до домашньої адреси, календарних планів та надсилати повідомлення від імені користувача родичам та друзям. Вона вважає, що це вже не просто допоміжне використання окремого інструменту, а широкий доступ до кількох додатків і сервісів.
Signal вважає такий доступ ризиком тильного входу
Віттакер додала, що якщо подібні можливості будуть введено в такі криптографічні комунікаційні продукти, як Signal, це з точки зору безпеки продукту майже еквівалентно встановленню «заднього входу». Вона підкреслила, що чим ближче функції AI-асистента до виконання завдань та дій від імені користувача, тим більше уваги користувачі повинні звертати на те, які саме повноваження вони надають.
Це твердження також відображає постійну суперечку в конкуренції між AI-асистентами: коли продукти переходять від відповідей на запитання до виконання завдань замість користувача, конфлікт між зручністю та захистом приватності стає більш прямим.