После добавления плагина Apple Messages в настольную версию ChatGPT от OpenAI пользователи могут заставить чат-бота искать старые SMS-сообщения, резюмировать групповые чаты, составлять ответы и отправлять сообщения напрямую на Mac. Эта функция требует ручной авторизации установщиком, но другие участники того же диалога не получают уведомлений, что быстро вызвало споры о конфиденциальности и безопасности.
Фокус на доступе после расшифровки
Несколько специалистов по безопасности отметили, что спор не в том, что ChatGPT взломал конец-к-концу шифрование Apple, а в том, что после достижения сообщения устройства получателя его содержимое может быть прочитано локальным программным обеспечением. То есть само шифрование передачи не было нарушено, но как только сторонние инструменты получат доступ к устройству, контент, который ранее был виден только участникам диалога, может быть дополнительно извлечен и проанализирован другими системами.
Эксперт по безопасности и конфиденциальности Пол Уолш заявил Fortune, что наиболее тревожным аспектом такого способа доступа является то, что авторизованный пользователь не только открывает свои собственные данные, но и раскрывает третьим сторонам сообщения других людей из многолетней переписки. Для людей, использующих шифрованную связь для обработки конфиденциальных дел, это подрывает их ожидания относительно конфиденциальности общения.
OpenAI заявляет, что по умолчанию сохраняется локально
OpenAI заявляет, что после включения плагинов ChatGPT не создает индекс пользовательской информации и не читает все диалоги автоматически. Система обращается к соответствующим сообщениям только при явном запросе пользователя, связанном с содержанием информации.
Компания также заявила, что настольная версия ChatGPT по умолчанию сохраняет соответствующие диалоги на локальном компьютере, и содержимое сообщений из Apple Messages не синхронизируется автоматически с серверами OpenAI. Однако, если пользователь выберет сохранение диалогов ChatGPT в облаке, эти сообщения будут подпадать под те же правила хранения и сохранения, а также могут быть включены в функцию облачной памяти.
- По умолчанию содержимое сообщений сохраняется локально на компьютере пользователя Mac
- Система будет обращаться к содержимому информации только после четкого вопроса
- Если диалог сохраняется в облаке, соответствующие данные также попадут в облако.
Кибербезопасные компании обеспокоены дальнейшим расширением полномочий.
Главный технический директор мобильной компании по кибербезопасности Lookout Дейв Ричардсон заявил, что называть эту функцию прямо «шпионским ПО» может быть излишне строго, поскольку она отключена по умолчанию и требует явного разрешения пользователя. Однако он также считает, что это все же создает значительный риск для каналов связи, которые ранее считались безопасными.
Он отметил, что сквозное шифрование защищает процесс передачи сообщений между устройствами, так что платформа или сетевой оператор не могут прочитать содержимое в пути, но после достижения сообщением конечного устройства само устройство все еще может получить доступ к нему. Если пользователь затем предоставит этот контент сторонним сервисам, таким как OpenAI или Anthropic, реальный охват сквозного шифрования сократится.
Приватная компания Proton также опубликовала анализ во вторник, в котором указала, что такие риски могут затронуть людей, никогда не использовавших ChatGPT, поскольку сообщения, отправляемые ими, могут быть доступны, если собеседник включил плагины. Proton также отметила, что требование «полного доступа к диску» во время установки само по себе является частью более широких соображений безопасности.
ИИ проникает в еще более чувствительные области применения
Этот спор также показывает, что инструменты ИИ выходят за рамки чат-боксов и получают более глубокий доступ к устройствам. Исследование, предоставленное Lookout Fortune, демонстрирует, что за последний год запросы на доступ к данным и высокорискованным функциям от приложений, связанных с ИИ, постоянно росли, и эта тенденция на платформе iOS также усиливается.
OpenAI поясняет, что этот плагин не является новым интерфейсом iMessage, созданным специально для ChatGPT компанией Apple, а использует существующие возможности macOS. При установке пользователю необходимо предоставить разрешения на доступ к AppleScript, вспомогательным функциям и полному доступу к диску.
По мере того как AI-агенты получают больше контроля над устройствами, споры уже не ограничиваются вопросом «готовы ли пользователи предоставить разрешение», но также включают в себя вопрос, осведомлены ли другие участники диалога, и не появятся ли новые точки утечки данных после того, как личные сообщения будут извлечены, обобщены и сохранены на долгосрочной основе AI.