Генеральный директор Signal Мередит Уиттакер в интервью Bloomberg заявила, что пользователи не должны воспринимать такие системы, как ChatGPT и Claude, как «друзей» или субъекты с сознанием. Она сосредоточила обсуждение на вопросах конфиденциальности и прав доступа, отметив, что риски быстро усиливаются, когда такие инструменты глубоко интегрируются в личные сервисы.
Уиттакер о границах использования ИИ
Уиттакер сказала, что сама использует инструменты ИИ лишь в редких случаях, например, для форматирования документов, но не передает процесс формулирования вопросов, размышлений и написания текста моделям. Она отметила, что не хочет, чтобы система, генерирующая ответы на основе существующей информации, заменяла мыслительный процесс, который должен выполнять человек.
Опасения по поводу получения чувствительных разрешений между приложениями
Она также прокомментировала идею, ранее выдвинутую Мустафой Сулейманом, руководителем AI-бизнеса Microsoft, о том, что пользователи могут поручить Microsoft Copilot выполнить покупки на Рождество. Уиттакер считает, что для реализации такого сценария система должна иметь доступ к большому объему личной информации и выполнять действия через несколько сервисов.
- Кредитные карты и платежная информация
- История просмотров браузера
- Содержимое сигналов и контакты
Помимо вышеуказанной информации, такие системы могут получать доступ к домашнему адресу, расписанию и отправлять сообщения от имени пользователя друзьям и родственникам. Она считает, что это уже не просто вспомогательное использование отдельного инструмента, а широкий доступ к нескольким приложениям и сервисам.
Signal рассматривает такой доступ как риск наличия бэкдора
Уиттакер далее отметила, что если подобные возможности будут внедрены в такие шифрованные коммуникационные продукты, как Signal, это с точки зрения безопасности продукта будет практически равносильно созданию «задней двери». Она подчеркнула, что чем ближе функции AI-ассистента к выполнению задач и действию от имени пользователя, тем больше внимания пользователи должны уделять тому, какие именно права им были предоставлены.
Это заявление также отражает постоянный спор в конкуренции между AI-ассистентами: когда продукты переходят от ответов на вопросы к выполнению задач за пользователей, конфликт между удобством и защитой конфиденциальности становится более острым.