A presidente da Signal, Meredith Whittaker, ao ser entrevistada pela Bloomberg sobre chatbots como ChatGPT e Claude, afirmou que os usuários não devem considerar esses sistemas como "amigos" ou entidades com consciência subjetiva. Ela focou a discussão em questões de privacidade e permissões, argumentando que o risco dessas ferramentas aumenta rapidamente quando integradas profundamente a serviços pessoais.
Whittaker sobre os limites do uso de IA
Whittaker afirmou que ela mesma usa ferramentas de IA em poucos cenários, como organizar o formato de documentos, mas não transfere o processo de fazer perguntas, pensar e escrever para modelos. Ela disse que não deseja que um sistema que gera respostas com base em informações existentes substitua o processo de reflexão que deveria ser realizado individualmente.
Preocupação com a obtenção de permissões sensíveis entre aplicativos
Ela também respondeu a uma ideia anteriormente apresentada por Mustafa Suleyman, responsável pela área de IA da Microsoft, de que os usuários poderiam permitir que o Microsoft Copilot realizasse as compras de Natal por eles. Whittaker acredita que, para realizar esse cenário, o sistema precisaria acessar uma grande quantidade de informações pessoais e executar ações em vários serviços.
- Cartão de crédito e informações de pagamento
- Histórico de navegação
- Conteúdo e contatos do Signal
Além das informações acima, esses sistemas também podem acessar endereços residenciais, agendas de calendário e enviar mensagens em nome do usuário para familiares e amigos. Ela acredita que isso já não é mais um uso auxiliar de uma única ferramenta, mas sim um acesso abrangente a múltiplas aplicações e serviços.
Signal considera esse tipo de acesso um risco de backdoor
Whittaker acrescentou que, se capacidades semelhantes forem introduzidas em produtos de comunicação criptografada como o Signal, do ponto de vista da segurança do produto, equivale praticamente à implementação de uma “porta dos fundos”. Ela usou isso para enfatizar que, quanto mais próximo o recurso de assistente de IA estiver de realizar tarefas e ações em nome do usuário, mais atenção o usuário precisa prestar aos privilégios reais que ele concede.
Essa declaração também reflete uma controvérsia contínua na competição entre assistentes de IA: quando os produtos passam de responder perguntas a substituir os usuários na execução de tarefas, o conflito entre conveniência e proteção de privacidade torna-se mais direto.