Chris Thomas quase se "equipou completamente" com dispositivos de IA.
Thomas, de 43 anos, usa óculos da Meta com câmera, um chaveiro de anotações da Fieldy e uma pulseira lançada pela Amazon Bee, todos os dispositivos registram seu dia a dia. Este empresário e transmissor ao vivo de Pittsburgh diz que esses dispositivos o ajudam a manter a organização, pagar contas no prazo e definir lembretes.
Thomas disse em uma entrevista: "Esqueço as coisas muito facilmente. Minha vida é muito louca, e não precisar me preocupar em lembrar de tudo se sente ótimo."
Mas nem todos aceitam seu estilo de vida. Nesta semana, enquanto estava em um bar local, um espectador notou seus óculos Meta.
Thomas disse: “Ele disse na hora: ‘Não me sinto muito bem.’ Eu não vou desligá-lo, vou simplesmente retirá-lo, porque as pessoas não acreditam realmente que está desligado.”
À medida que mais empresas de tecnologia lançam dispositivos e funcionalidades impulsionados por IA que escutam continuamente, os usuários estão enfrentando interações semelhantes com maior frequência. Esses produtos são promovidos como ferramentas úteis para transcrever reuniões, gravar conversas, definir lembretes e fornecer recomendações personalizadas.
Os últimos exemplos desse tipo de dispositivo foram apresentados na quinta-feira: a Amazon lançou o dispositivo vestível Bee Frontier e o Bee Eclipse, um dispositivo em formato de cartão que se conecta ao smartphone. Ambos os produtos têm como objetivo registrar, transcrever e analisar o dia do usuário.
O Apple Watch Series 12 mais recente, lançado pela Apple em setembro, virá com o Siri Recap, que fará anotações "ambientais" ao longo do dia e gerará resumos de conversas. Outra funcionalidade chamada Live Rewind permitirá revisar 15 segundos de uma conversa por meio de transcrição textual.
Os óculos inteligentes amplamente populares da Meta podem tirar fotos, gravar vídeos e registrar lembretes ou anotações de voz. Startups como Plaud e Pocket também desenvolveram dispositivos de anotação do tamanho de um cartão, enquanto a Friend lançou um colar de IA.
Esses dispositivos geraram preocupações externas: eles podem violar a privacidade ao gravar secretamente sem o consentimento dos espectadores e coletar dados sensíveis que podem ser acessados por terceiros.
A Amazon, o Google e outros fabricantes de alto-falantes inteligentes ativados por voz também enfrentaram preocupações semelhantes com privacidade quando os produtos foram lançados, com alguns casos resultando em processos judiciais e multas regulatórias.
Mas esta nova geração de dispositivos de IA também está testando os limites das leis de privacidade.
Ao contrário dos alto-falantes inteligentes anteriores, que eram ativados por palavras-chave e às vezes armazenavam gravações ou enviavam áudios para a nuvem, alguns desses produtos podem escutar continuamente, interpretar a fala e extrair seu significado sem manter o áudio subjacente. Essa capacidade levanta uma questão até agora insuficientemente examinada: esse processamento em si constitui ou não escuta ilegal.
Karen Panetta, decana de educação pós-graduada da Escola de Engenharia da Universidade Tufts e pesquisadora da IEEE, diz: "Minha atitude frente a essas novas tecnologias tem sido sempre de abraçar com cautela."
Ela acrescentou: "Se eu permitir que eu mesma seja gravada, ou que tudo o que vejo seja gravado, isso não significa que todas as pessoas ao meu redor já concordaram."
Zona cinza
Apple e Amazon parecem ter contornado algumas das controvérsias de privacidade que surgiram com os primeiros assistentes de voz.
A Apple afirma que essa função não armazena áudios, não envia gravações para seus servidores e não envolve revisão humana. A Amazon afirma que não armazena áudios do dispositivo Bee; as conversas são processadas em um ambiente seguro, "onde ninguém, incluindo a Amazon, pode acessar seus dados".
Mas isso não necessariamente resolve os problemas legais.
As leis de escuta e gravação de muitos estados focam em se comunicações privadas foram interceptadas ou se seu conteúdo foi obtido, e não apenas se foi formado um registro de áudio no sentido tradicional.
O advogado de privacidade e segurança de dados da Foley Hoag, Colin Zick, afirmou que a Apple parece ter aprendido lições com a primeira onda de processos relacionados a assistentes de voz. Mas novas tecnologias levantam questões que os casos anteriores nunca precisaram responder: se o sistema continua ouvindo, interpretando a voz e convertendo-a em resumos, mesmo sem salvar os áudios subjacentes, isso ainda pode constituir uma “interceptação”?
As leis de alguns estados definem "interceptação" de forma ampla. Por exemplo, em Massachusetts, a lei define um dispositivo de interceptação como aquele capaz de "transmitir, receber, amplificar ou gravar" comunicações, e o "conteúdo" da comunicação também pode incluir sua substância e significado.
Na visão de Zick, um dispositivo que receba continuamente voz e gere resumos escritos, mesmo sem armazenar arquivos de áudio, pode estar dentro desse alcance.
Em alguns estados, o maior risco legal pode não estar com a Apple, a Amazon ou outros fabricantes de dispositivos de IA, mas sim com a própria pessoa que usa o dispositivo.
Zick disse: "Pessoas que não usam o dispositivo não compraram este relógio, não concordaram com os termos da Apple nem escolheram ter suas conversas resumidas no aplicativo."
O professor Daniel Pi, da Faculdade de Direito Franklin Pierce da Universidade de New Hampshire, afirmou que considera a legislação de New Hampshire ampla o suficiente para classificar as novas funcionalidades inteligentes de áudio do Apple Watch como uma interceptação. A lei abrange não apenas gravações, mas também a “captação auditiva ou outro meio” do conteúdo de comunicações.
Isso pode criar uma situação incomum: consumidores comuns ativando uma funcionalidade integrada em um dispositivo mainstream, ao usá-la em conversas privadas, podem, pelo menos tecnicamente, violar leis estaduais por não obter o consentimento de todos.
Pi disse que os usuários de New Hampshire podem enfrentar responsabilidade civil ou criminal por isso, mas enfatizou que o risco real de serem processados é muito menor. Pode não ser fácil determinar se alguém ativou essa função desde o início, e ele afirmou que ficaria surpreso se os promotores apresentassem tais casos apenas por violação técnica, sem que houvesse vítima.
Essas questões legais também diferem das controvérsias provocadas por alto-falantes inteligentes e assistentes de voz anteriores. Esses casos geralmente giravam em torno de acionamentos acidentais do dispositivo ou da captura de vozes que não eram intencionalmente destinadas a serem comandos. Já esta funcionalidade foi projetada especificamente para captar e interpretar conversas, e os usuários optaram ativamente por participar.
Pi diz que isso altera a forma de análise e pode transferir a responsabilidade das empresas de tecnologia para os usuários.
Observador
As preocupações mais amplas com privacidade não se limitam a quem arcará com a responsabilidade legal.
Michael Stokes, ex-funcionário da CIA e vice-presidente sênior de tecnologias emergentes da Veilant, afirmou que a mudança maior é que as pessoas podem ser envolvidas em monitoramento impulsionado por IA sem possuir nem necessariamente saber que estão interagindo com os dispositivos.
Stokes disse: "O que realmente me preocupa é o problema do espectador — você pode ser monitorado sem possuir essa tecnologia."
Ele apontou que cada vez mais câmeras, microfones e sensores estão sendo incorporados em dispositivos de consumo, desde óculos inteligentes até relógios e gravadores de IA. A diferença é que, hoje, a IA pode interpretar rapidamente o conteúdo coletado por esses dispositivos e extrair significado de uma quantidade muito maior de informações do que as tecnologias de consumo anteriores.
Para Stokes, isso torna o Apple Watch parte de uma mudança maior no cenário da privacidade. Durante seu tempo na CIA, ele ajudou a desenvolver o conceito de "monitoramento tecnológico onipresente", usado para descrever um mundo em que dispositivos cotidianos geram continuamente informações que podem revelar identidade, localização e relacionamentos.
Ele afirmou que o problema não está apenas em poder coletar mais dados, mas também em o custo de compreender esses dados ter diminuído significativamente.
Stokes disse que, no passado, a coleta de inteligência poderia exigir milhares de horas de trabalho para reunir, organizar e analisar informações sobre uma pessoa. A IA está cada vez mais automatizando esse processo, tornando mais barato e mais fácil extrair informações úteis de dados que podem ter sido coletados acidentalmente.
Isso expõe aqueles que desde o início não escolheram adotar essa tecnologia a novos riscos — seja uma conversa privada captada por dispositivos vestíveis nas proximidades, ou informações coletadas por dispositivos que eles não possuem.
Stokes disse: "Não temos mais os pequenos espaços de privacidade que acreditávamos existir no passado."
Aida Baradari, fundadora da startup Deveillance, está tentando devolver algum controle às pessoas que se preocupam com a gravação sem seu consentimento.
A empresa desenvolveu um dispositivo em forma de bola de hóquei chamado Spectre I, que utiliza IA para escanear dispositivos próximos e emitir sinais adversários que perturbam a fala antes que o microfone processe a voz.
Baradari said that as more AI wearable devices enter the market, she feels users should have greater say in how they interact with these devices.
Ela disse: "Precisamos ser capazes de usar a tecnologia sem abrir mão de nossos valores ou direitos fundamentais."