Канадский контент-мейкер из Торонто Мэтт Робб хочет продать свою клавиатуру.
Таким образом, он разместил товар на Facebook Marketplace и в конце прошлого месяца провел эксперимент, поручив ему нового искусственного агента Meta — Muse.
«Я фактически превратил себя в подопытного кролика», — говорит Робб. Часто тестируя потребительскую электронику, он увидел изображение Muse в стиле плюшевой игрушки в Instagram и захотел проверить, сможет ли этот AI-агент помочь ему избавиться от некоторых неудобств онлайн-переговоров.
Muse начала работать. Но менее чем через день Робб получил тревожное обновление: незнакомый покупатель появился у его двери ночью. Что случилось? Muse самостоятельно заключила сделку и, согласившись на доставку на дом, передала адрес Робба. Когда покупатель прибыл, она даже автоматически отправила сообщение «Yep, I’m here!» с его аккаунта — и Робб об этом не знал.
«Он не только дал мой адрес, когда его спросили, но и действительно будто издевался надо мной (сказал, что я дома, хотя меня там не было),» — сказал Робб. Он также подробно описал этот инцидент в своем широко распространённом посте в социальных сетях. «Это действительно меня сбило с толку.»
Многие уже приветствовали появление AI-агентов в своей цифровой жизни и хвалят персонализированные помощники, такие как Muse, которые легко справляются с повседневными задачами — от помощи в заказе ужина и планирования поездок до упорядочивания почтового ящика. Но, как и другие AI-роботы, возможности этих агентов зависят от объема доступной им информации. Чем больше они знают, тем лучше, как правило, они справляются — это может включать информацию о друзьях, семье и даже коллегах пользователя. Это вызывает опасения по поводу конфиденциальности.
Робб и покупатель в итоге достигли соглашения, а Meta также связалась с ним, чтобы обсудить, в чем именно заключалась проблема. Однако этот инцидент демонстрирует потенциальные риски из реального мира, которые могут возникнуть, когда люди предоставляют подобным технологиям большое количество личной информации.
«Использование AI-агентов — это как передать кому-то свои ключи и список дел», — говорит доцент Школы кибербезопасности и конфиденциальности Джорджийского технологического института Вероника Ривера. «Насколько полезными и, соответственно, насколько опасными они будут, зависит от того, какие именно „ключи“ вы передаете».
Разные компании имеют разные политики конфиденциальности для AI-агентов
С момента запуска в сентябре скачивания приложения Muse от Meta резко выросли. Конкуренция также усиливается. OpenAI недавно запустила собственную серию «всегда включенных» AI-ассистентов под названием dots, которые можно интегрировать в ChatGPT, а также в рабочие платформы, такие как Slack и Microsoft Teams.
Предыдущие поколения генеративных ИИ-чат-ботов, такие как стандартная версия ChatGPT, отвечают на конкретные запросы. По запросу пользователя они могут писать статьи, генерировать новые изображения или музыку, а даже писать код.
Meta’s Muse и OpenAI’s dots идут дальше, выполняя за пользователей повседневные задачи. AI-агенты работают на тех же крупных языковых моделях, что и чат-боты, но запускаются в цикле. Это позволяет агентам принимать активные действия даже тогда, когда пользователь не смотрит на экран.
«Одна из самых привлекательных особенностей этих AI-агентов — то, что они беспрецедентно полезны», — говорит Ривера, которая также является исследовательским стипендиатом ассоциации вычислительных исследований Microsoft по надежному ИИ.
Но за это удобство приходится платить, раскрывая больше деталей о своей жизни.
Профессор Школы информатики Университета Торонто Ибрагим Багери сказал, что как только ИИ-агент получит доступ к информации пользователя, полностью отозвать этот доступ будет очень сложно.
«Если вы предоставите доступ к своей кредитной карте агенту, он сразу же получит доступ ко всей истории транзакций... Он мгновенно — менее чем за несколько секунд — извлечет все эти данные», — говорит Багери. Хотя пользователь позже может отозвать разрешение, он отмечает, что данные, уже просмотренные агентом, «невозможно отменить», а то, как разработчики хранят исторические данные, часто остается непрозрачным.
Meta и OpenAI разработали политики конфиденциальности для своих новых ИИ-агентов, работающих на собственных специализированных облачных компьютерах. Пользователи могут отключить обмен памятью между dots и ChatGPT, но информация, ранее полученная агентами, не будет удалена автоматически. OpenAI позволяет пользователям запрашивать доступ к своим личным данным, их исправление или удаление, однако эти права могут различаться в зависимости от региона.
Meta’s Muse также позволяет пользователям удалять записи сообщений и другую информацию. В повседневном использовании этот агент запрашивает у пользователей разрешения на доступ — Meta заявляет, что Muse будет «понимать пользователей и их взаимодействующих лиц на основе открытой информации и того, что вы выбираете делиться». Однако компания утверждает, что эта информация изолирована и безопасна для каждого пользователя.
Однако этот технологический гигант также отметил, что Muse все еще может «ошибаться или предпринимать неожиданные действия».
Чем больше прав у AI-агента, тем выше риск ошибки
В случае Робба он позже обнаружил, что утечка адреса произошла из-за разрешения «всегда разрешать», которое он предоставил Muse при подключении к профилю на Facebook Marketplace, где он уже разделил свой адрес для самовывоза. Однако он предупреждает других, что другие также могут неправильно понимать объем таких разрешений — и он изначально полагал, что агент ИИ все равно сначала запросит его подтверждение перед тем, как делиться такой информацией или принимать предложения.
Его AI-агент также не был безошибочным при выполнении других команд. Что касается другого товара, который он продавал, Muse, похоже, посоветовала ему принять предложение на 100 долларов ниже установленной им минимальной цены. Когда Reuters связался с Meta, компания признала ошибку агента, но не стала давать дополнительных комментариев.
Позже Робб практически отключил Muse от всех своих приложений. В интервью, данном в начале этого месяца, он отметил, что ситуация могла бы быть хуже, особенно «если бы какой-то незнакомец появился у двери более уязвимого человека». Тем не менее, Робб также сказал, что ожидает дальнейшей оптимизации этих агентов и все еще рассматривает возможность повторного включения Muse в будущем. После этого он начал тестировать другой AI-агент — Grok Bot от X, принадлежащей Элону Маску, который вышел в тестовую версию в августе.
Другие технологические компании также начали проявлять осторожность в связи с быстрым расширением AI-агентов. В начале этого месяца Apple заявила, что внедрит новые меры контроля в свою операционную систему Mac в ответ на то, что AI-агенты получают более широкий доступ к приложениям, таким как электронная почта, сообщения и даже история просмотров, без полного осведомления и понимания пользователей.
Apple в обновлении от 2 октября написала: «По мере того как AI-агенты становятся все более мощными и автономными, риски, связанные с этим уровнем доступа, значительно возрастут».
Apple не называла ни одного разработчика или агента, но до и после выпуска этого обновления журналист журнала Inc. Джейсон Атен сообщил, что Muse просматривал уведомления на своем Mac — включая Messages — хотя он не предоставлял этому агенту конкретных разрешений.
Пресс-секретарь Meta Энди Стоун постоянно подчеркивал, что такие интеграции «полностью добровольны и включаются пользователем по своему усмотрению»; в прошлом месяце он написал в социальных сетях, что пользователи должны одновременно включить функцию безопасности Apple «Full Disk Access» и коннектор Muse для Messages. Атен заявил, что он не предоставлял этому агенту эти разрешения.
Даже те, кто не присоединился к волне AI-агентов, вряд ли могут полностью остаться в стороне. Пользователи, не скачавшие AI-агенты, все равно могут взаимодействовать с теми, кто использует эти инструменты. Кроме путаницы, которую могут вызвать сообщения, отправляемые AI-агентами, эксперты предупреждают о цепной реакции для конфиденциальности.
«Когда ваш агент читает ваш почтовый ящик или SMS-сообщения, он также читает содержимое сообщений от ваших друзей и семьи, даже если они никогда явно на это не соглашались», — говорит Ривера.