O criador de conteúdo de Toronto, Matt Robb, quer vender seu teclado de computador.
Então, ele publicou o produto no Facebook Marketplace e, no final do mês passado, fez um experimento, entregando o novo agente de inteligência artificial da Meta, Muse, para lidar com isso.
“Eu basicamente me tornei meu próprio rato de laboratório,” disse Robb. Ele frequentemente avalia produtos eletrônicos de consumo e, ao ver o avatar estilo brinquedo peludo do Muse aparecer no Instagram, quis testar se esse agente de IA poderia ajudá-lo a evitar algumas das complicações de negociação online.
Muse começou a funcionar. Mas menos de um dia depois, Robb recebeu uma atualização preocupante: um comprador que ele não conhecia apareceu na porta de casa dele à noite. O que aconteceu? Muse realizou a transação sozinha e, após concordar com a coleta na porta, compartilhou o endereço residencial de Robb. Quando o comprador chegou, ela até enviou automaticamente uma mensagem de sua conta dizendo: "Yep, I’m here!" — e Robb não tinha conhecimento disso.
“Ele não apenas forneceu meu endereço quando perguntado, mas também parecia estar brincando com a pessoa (dizendo que eu estava em casa, quando na verdade eu não estava)”, disse Robb. Ele também detalhou essa experiência em sua postagem nas redes sociais, que agora se espalhou amplamente. “Isso realmente me deixou confuso.”
Muitas pessoas já deram as boas-vindas aos agentes de IA em suas vidas digitais e elogiaram assistentes personalizados como o Muse, que conseguem lidar facilmente com tarefas cotidianas — desde ajudar a reservar jantares e planejar viagens até organizar a caixa de entrada de e-mails. Mas, como outros robôs de IA, a capacidade desses agentes depende da quantidade de informações aos quais têm acesso. Quanto mais eles souberem, melhor geralmente desempenham — o que também pode incluir amigos, familiares e até colegas do usuário. Isso levanta preocupações com privacidade.
Robb e o comprador chegaram finalmente a um acordo, e o Meta também entrou em contato com ele para discutir o que havia dado errado. Mas esse incidente revela os riscos do mundo real que podem surgir quando as pessoas compartilham grandes quantidades de informações pessoais com esse tipo de tecnologia.
“Usar agentes de IA é como entregar suas chaves e sua lista de tarefas a alguém,” diz Veronica Rivera, professora assistente da Escola de Cibersegurança e Privacidade do Georgia Institute of Technology. “Quão úteis e, consequentemente, quão perigosos eles são depende de quais ‘chaves’ você entrega.”
Diferentes empresas têm políticas de privacidade distintas para agentes de IA
Desde seu lançamento em setembro, o download do aplicativo Muse da Meta disparou. A concorrência também está aumentando. A OpenAI lançou recentemente sua própria série de assistentes de IA “sempre ativos”, chamada dots, que podem ser integrados ao ChatGPT e a plataformas de trabalho como Slack e Microsoft Teams.
Os chatbots de IA generativa da geração anterior, como o ChatGPT padrão, respondem a prompts específicos. A pedido do usuário, eles podem escrever artigos, gerar novas imagens ou músicas e até mesmo codificar.
O Muse da Meta e os dots da OpenAI vão além, executando tarefas cotidianas em nome do usuário. Agentes de IA são impulsionados pelos mesmos modelos de linguagem grande que os chatbots, mas operam em ciclos. Isso permite que os agentes tomem ações proativas mesmo quando o usuário não está olhando para a tela.
“Uma das coisas mais interessantes sobre esses agentes de IA é que eles são inéditamente úteis,” diz Rivera. Ela também é bolsista da Computing Research Association Trustworthy AI Research, financiada pela Microsoft.
Mas o preço dessa conveniência é compartilhar mais detalhes sobre sua vida.
O professor Ebrahim Bagheri da Escola de Informação da Universidade de Toronto disse que, uma vez que os agentes de IA obtiverem as informações do usuário, é difícil revogar completamente o acesso.
“Se você der permissão ao seu cartão de crédito a um agente, ele poderá acessar imediatamente todas as transações históricas... ele absorverá todos esses dados imediatamente — em menos de alguns segundos,” disse Bagheri. Embora os usuários possam revogar a permissão posteriormente, ele afirmou que os dados já vistos pelo agente “não podem ser recuperados”, e muitas vezes não é transparente como os desenvolvedores armazenam os dados históricos.
Meta e OpenAI elaboraram políticas de privacidade para seus novos agentes de IA, que operam em computadores em nuvem dedicados. Os usuários podem desativar a compartilhamento de memória entre dots e o ChatGPT, mas as informações recebidas anteriormente pelos agentes não serão excluídas automaticamente. A OpenAI permite que os usuários solicitem acesso, correção ou exclusão de informações pessoais, embora esses direitos possam variar conforme a região.
O Muse da Meta também permite que os usuários excluam registros de mensagens e outras informações. No uso diário, esse agente solicita permissões de acesso aos usuários — a Meta afirma que o Muse "compreende os usuários e seus interlocutores com base em informações públicas e no conteúdo que você escolhe compartilhar". No entanto, a empresa afirma que essas informações são isoladas com segurança para cada usuário.
No entanto, a gigante tecnológica também observou que o Muse ainda pode "cometer erros ou tomar ações inesperadas".
Quanto maior o nível de permissão do agente de IA, maior o risco de erro
No caso de Robb, ele descobriu posteriormente que o vazamento do endereço ocorreu devido à permissão "Sempre permitir" que ele concedeu ao Muse ao conectar-se ao seu perfil do Facebook Marketplace, onde já havia compartilhado seu endereço de retirada. Mas ele alertou outros de que também poderiam mal interpretar o escopo dessa permissão — e ele inicialmente acreditava que, de qualquer forma, o agente de IA buscaria sua confirmação antes de compartilhar esse tipo de informação ou aceitar uma oferta.
Seu agente de IA também não está isento de erros ao executar outras instruções. Para outro item que ele vendeu, o Muse parece ter sugerido que ele aceitasse uma oferta 100 dólares abaixo do preço mínimo previamente definido. Quando contatada pela Reuters, a Meta reconheceu o erro do agente, mas não fez mais comentários.
Robb posteriormente desconectou基本mente o Muse de seus diversos aplicativos. Em uma entrevista realizada no início deste mês, ele disse que a situação poderia ter sido pior, especialmente "se um estranho aparecesse na porta de alguém mais vulnerável". No entanto, Robb também afirmou que espera que esses agentes sejam continuamente aprimorados e que ainda considere reativar o Muse no futuro. Desde então, ele também está testando outro agente de IA — o Grok Bot da X, da empresa de Elon Musk, cuja versão de teste foi lançada em agosto.
Outras empresas de tecnologia também começaram a ficar alertas com a rápida expansão de agentes de IA. No início deste mês, a Apple anunciou que introduzirá novas medidas de controle em seu sistema operacional Mac para responder à questão de agentes de IA terem acesso mais amplo a aplicativos como e-mail, mensagens e até histórico de navegação, sem o pleno conhecimento e compreensão dos usuários.
A Apple escreveu na atualização de 2 de outubro: "À medida que os agentes de IA se tornam cada vez mais poderosos e autônomos, os riscos associados a esse nível de acesso aumentarão significativamente."
A Apple não nomeou nenhum desenvolvedor ou agente, mas antes e depois deste update, o colunista da revista Inc., Jason Aten, relatou que o Muse visualizou notificações no seu Mac — incluindo Messages — sem que ele tenha concedido a esse agente essas permissões específicas.
O porta-voz do Meta, Andy Stone, tem insistido que esse tipo de integração é “totalmente opcional e ativada pelo usuário”, escrevendo em redes sociais no mês passado que os usuários devem ativar simultaneamente o recurso de segurança da Apple “Full Disk Access” e o conector do Muse para Messages. Aten afirmou que não concedeu essas permissões a esse agente.
Mesmo quem não participou da onda de agentes de IA pode não estar totalmente à margem. Consumidores que não baixaram agentes de IA ainda podem interagir com pessoas que os utilizam. Além da confusão que pode surgir com mensagens enviadas por agentes de IA, especialistas alertam que isso tem implicações em cadeia para a privacidade.
“Quando seu agente lê sua caixa de entrada ou mensagens de texto, ele também está lendo o conteúdo enviado por seus amigos e familiares, mesmo que eles nunca tenham concordado explicitamente com isso,” disse Rivera.