F-Secure identifica 26 maneiras pelas quais a IA pode prejudicar os consumidores e como impedir esses riscos
A nova taxonomia de danos por IA rastreia como os danos se propagam nos sistemas de IA, desde respostas enganosas de chatbots até agentes autônomos comprometidos, e identifica em quais pontos as medidas de defesa podem ser implementadas.
Los Angeles, 10 de novembro (Reuters) / PRNewswire -- A inteligência artificial hoje afeta como buscamos, nos comunicamos, tomamos decisões e gerenciamos a vida digital. Mas quando ela erra, como realmente prejudica as pessoas? A nova Taxonomia de Danos da IA da F-Secure mapeia 26 tipos diferentes de danos ao consumidor, rastreando como cada dano atinge o usuário. O resultado é uma representação clara de onde as medidas de proteção podem intervir e quem tem maior capacidade de ajudar.
Esta taxonomia foi desenvolvida pela Dra. Megan Squire, pesquisadora principal de inteligência de ameaças da F-Secure, para abordar uma lacuna nas discussões sobre riscos de IA. A maioria dos frameworks lista apenas os possíveis pontos de falha, mas não conecta esses danos aos sistemas e empresas capazes de preveni-los. A pesquisa da F-Secure vai além, mapeando cada camada entre as ameaças impulsionadas por IA e seus impactos sobre os consumidores, e, com base nisso, indica onde as defesas devem ser implementadas.
O Dr. Squire afirmou: "À medida que as capacidades dos sistemas de IA continuam a aumentar, as consequências de seus erros podem ir muito além de fornecer uma resposta ruim. Os desenvolvedores desses sistemas têm a responsabilidade de entender como eles podem falhar, quem será prejudicado quando isso ocorrer e implementar proteções antes que os danos aconteçam."
Esta classificação reflete que o próprio risco está mudando. No passado, criminosos podiam atacar diretamente uma pessoa, mas agora a IA está no meio, adicionando novos participantes e novas formas de erro. Um assistente que age em nome de alguém pode ser manipulado para causar dano, e chatbots também podem enganar os usuários com confiança excessiva. Em níveis mais fundamentais, os problemas muitas vezes começam com como a IA processa instruções e memórias, ou quais outros serviços ela conecta.
Este estudo atualmente classifica 26 tipos de danos em cinco categorias de relações e 19 camadas de intermediários, e projeta 24 medidas de defesa para enfrentar riscos em diferentes etapas. Exemplos incluem imitação por voz e vídeo gerados por IA, decisões financeiras prejudiciais tomadas por agentes, vazamento de informações pessoais ou ação em contextos desatualizados. O estudo também examina um tipo de ataque no qual instruções maliciosas são ocultas no conteúdo processado pelo sistema de IA, podendo assim influenciar o comportamento do agente ou o que o chatbot informa aos usuários.
Uma das descobertas centrais deste quadro é que a responsabilidade por prevenir danos causados por IA está dispersa entre múltiplos participantes. Alguns riscos podem ser tratados por software de segurança em dispositivos individuais; outros devem ser abordados mais a montante, por empresas que desenvolvem produtos de IA e seus sistemas subjacentes, incluindo como a IA memoriza informações e quais outros serviços ela conecta. Esclarecer quem é responsável por cada etapa ajuda a determinar onde as defesas devem ser colocadas e quem deve construí-las. Isso também enfraquece a ideia de que as pessoas podem se manter seguras sozinhas simplesmente identificando conteúdo suspeito ou verificando repetidamente as informações fornecidas pela IA.
À medida que a IA passa de “gerar informações” para “agir com base em informações”, a questão da responsabilidade torna-se mais urgente. Um chatbot que responde incorretamente pode enganar os usuários, mas pelo menos os usuários ainda participam da interação; já um agente que tem acesso às contas dos usuários e aos serviços associados pode causar consequências reais sem essa confirmação recíproca. As medidas de proteção precisam ser construídas em torno do que esses sistemas realmente estão fazendo, o que exige primeiro entender a diferença entre chatbots e agentes.
Construir proteção para agentes de IA
Este estudo faz parte dos esforços mais amplos da F-Secure para construir confiança na era da IA. A F-Secure Trust, anunciada em conjunto com a aliança estratégica com o Quantum AI Lab QuTwo, representa o compromisso da empresa em proteger os usuários em um mundo onde agentes de IA atuam cada vez mais em nome das pessoas. O TrustGuard visa ajudar a proteger a segurança das pessoas durante interações com IA, enquanto o TrustPath visa proteger sua jornada digital, desde a descoberta até a entrega. A Taxonomia de Danos da IA fornece a base de pesquisa para esses esforços, identificando os riscos que as medidas de proteção precisam enfrentar, e deixa claro que proteções eficazes também dependem das empresas que constroem e operam sistemas de IA.
Estudos humanos para a era da IA
As ameaças digitais atuais já não são mais apenas golpes. A equipe Illuminate Research da F-Secure estuda como humanos e tecnologia interagem na vida real, explorando a complexa realidade da confiança, da enganação e da resiliência online na era da IA. A Taxonomia de Danos da IA está disponível no Illuminate Research Hub.
Sobre o F-Secure
A F-Secure é uma empresa de experiência de segurança cibernética para consumidores, centrada no ser humano e impulsionada por IA, com 38 anos de experiência no combate a ameaças digitais. A empresa ajuda provedores de serviços digitais a transformar confiança em motores de crescimento de alto valor — protegendo seus clientes e ajudando-os a viver uma vida digital melhor em um mundo repleto de fraudes impulsionadas por IA. Anualmente, a empresa protege bilhões de interações digitais, protege dezenas de milhões de consumidores em todo o mundo e gera mais de US$ 10 bilhões em valor para parceiros, trazendo impacto comprovado em larga escala.
Contato para imprensa:
- Meghan Sawyer, gerente sênior de relações públicas, [email protected]
- Joel Latto, consultor de ameaças e gerente de relações públicas da EMEA, [email protected]
As informações acima são fornecidas pela Cision: http://news.cision.com