F-Secure identifica 26 formas en que la IA puede dañar a los consumidores y cómo prevenir los riesgos

icon币界网
Compartir
AI summary iconResumen
F-Secure ha identificado 26 formas en que la IA puede dañar a los consumidores, incluyendo chatbots engañosos y agentes autónomos defectuosos. La Taxonomía de Daños por IA, liderada por la Dra. Megan Squire, muestra cómo se propagan los riesgos y dónde aplicar salvaguardias. Los desarrolladores y proveedores de servicios comparten la responsabilidad de prevenir daños. La investigación apoya la construcción de confianza en la era de la IA, con herramientas como TrustGuard y TrustPath. Esta noticia sobre IA y cripto destaca los esfuerzos continuos por asegurar tecnologías emergentes.
CoinDesk informa:

F-Secure identifica 26 formas en que la IA puede dañar a los consumidores y cómo evitar estos riesgos

La nueva taxonomía de daños de IA rastrea cómo se propagan los daños en los sistemas de IA, desde respuestas engañosas de chatbots hasta agentes autónomos comprometidos, e identifica en qué puntos se pueden implementar medidas de defensa.

Los Ángeles, 10 de noviembre (Reuters) / PRNewswire / — La inteligencia artificial hoy en día está influyendo en cómo buscamos, nos comunicamos, tomamos decisiones y gestionamos nuestra vida digital. Pero cuando comete errores, ¿cómo puede dañar a las personas? La nueva Taxonomía de Daños por IA de F-Secure mapea 26 tipos diferentes de daños al consumidor, rastreando cómo llega cada uno hasta el usuario. El resultado es una representación clara de en qué puntos se pueden implementar medidas de protección y quién tiene la mayor capacidad para brindar ayuda.

Esta clasificación fue desarrollada por la Dra. Megan Squire, investigadora principal de inteligencia de amenazas de F-Secure, para abordar un punto ciego en las discusiones sobre riesgos de IA. La mayoría de los marcos solo enumeran los posibles puntos de fallo, pero no vinculan estos daños con los sistemas y empresas capaces de prevenirlos. La investigación de F-Secure va un paso más allá, mapea cada capa entre las amenazas impulsadas por IA y su impacto en los consumidores, y en base a ello indica dónde deben implementarse las defensas.

El Dr. Squire dijo: "A medida que las capacidades de los sistemas de IA sigan aumentando, las consecuencias de sus errores podrían ir mucho más allá de simplemente proporcionar una mala respuesta. Quienes desarrollan estos sistemas tienen la responsabilidad de comprender cómo podrían fallar, a quién podrían dañar al fallar y establecer medidas de protección antes de que ocurra el daño."

Esta clasificación refleja que el propio riesgo está cambiando. Anteriormente, los delincuentes podían atacar directamente a una persona, pero ahora la IA se encuentra en el medio, lo que introduce nuevos participantes y nuevas formas de error. Un asistente que actúa en nombre de alguien más podría ser manipulado para causar daño, y los chatbots también podrían engañar a los usuarios con total confianza. En niveles más fundamentales, los problemas a menudo comienzan con cómo la IA maneja las instrucciones y la memoria, o con qué otros servicios está conectada.

Este estudio actualmente clasifica 26 tipos de daños en cinco categorías de relaciones y 19 niveles intermedios, y diseña 24 medidas de defensa para abordar los riesgos en diferentes etapas. Los ejemplos incluyen suplantación mediante voz y video generados por IA, decisiones financieras perjudiciales tomadas por agentes, filtración de información personal o acciones realizadas en contextos obsoletos. El estudio también examina un tipo de ataque en el que instrucciones maliciosas se ocultan en el contenido procesado por el sistema de IA, lo que podría influir en el comportamiento del agente o en lo que el chatbot le dice al usuario.

Uno de los hallazgos clave de este marco es que la responsabilidad de prevenir daños causados por la IA se distribuye entre múltiples partes involucradas. Algunos riesgos pueden abordarse con software de seguridad en dispositivos personales; otros deben resolverse más arriba en la cadena, por parte de las empresas que desarrollan productos de IA y sus sistemas subyacentes, incluyendo cómo la IA memoriza información y qué otros servicios conecta. Clarificar quién es responsable de cada etapa ayuda a determinar dónde deben ubicarse las defensas y quién debe construirlas. Esto también debilita la idea de que las personas pueden mantenerse seguras simplemente identificando contenido sospechoso o verificando repetidamente la información proporcionada por la IA.

A medida que la IA pasa de “generar información” a “tomar acciones basadas en información”, la cuestión de quién es responsable se vuelve más urgente. Si un chatbot responde incorrectamente, puede confundir a los usuarios, pero al menos los usuarios aún participan en la interacción; en cambio, un agente que tenga acceso a las cuentas de los usuarios y sus servicios asociados puede causar consecuencias reales sin esta confirmación recíproca. Las medidas de protección deben construirse en torno a lo que realmente hacen estos sistemas, lo que requiere primero comprender la diferencia entre un chatbot y un agente.

Construir protección para agentes de IA

Este estudio forma parte de los esfuerzos más amplios de F-Secure para construir confianza en la era de la IA. F-Secure Trust, anunciado junto con la alianza estratégica con Quantum AI Lab QuTwo, es el compromiso de la empresa de proteger a los usuarios en un mundo donde los agentes de IA actúan cada vez más en nombre de las personas. TrustGuard busca ayudar a proteger la seguridad de las personas durante sus interacciones con IA, mientras que TrustPath tiene como objetivo proteger su viaje digital, desde el descubrimiento hasta la entrega. La Taxonomía de Daños por IA proporciona la base de investigación para estos esfuerzos, identificando los riesgos que deben abordarse con medidas de protección, y deja claro que la efectividad de estas salvaguardas también depende de las empresas que construyen y operan los sistemas de IA.

Estudios humanos para la era de la IA

Las amenazas digitales de hoy ya no son solo estafas. El equipo Illuminate Research de F-Secure estudia cómo interactúan las personas y la tecnología en el mundo real, explorando la compleja realidad de la confianza, el engaño y la resiliencia en línea en la era de la IA. La Taxonomía de Daños por IA está disponible en el Illuminate Research Hub.

Sobre F-Secure

F-Secure es una empresa de experiencia de ciberseguridad para consumidores, centrada en las personas y impulsada por IA, con 38 años de experiencia enfrentando amenazas digitales. La empresa ayuda a los proveedores de servicios digitales a convertir la confianza en un motor de crecimiento de alto valor, protegiendo a sus clientes y ayudándolos a llevar una mejor vida digital en un mundo inundado de estafas impulsadas por IA. Anualmente, protege miles de millones de interacciones digitales, protege a decenas de millones de consumidores en todo el mundo y genera más de 10 mil millones de dólares en valor para sus socios, logrando un impacto escalable comprobado.

Contacto de prensa:

  • Meghan Sawyer, gerente sénior de relaciones públicas, [email protected]
  • Joel Latto, asesor de amenazas y gerente de relaciones públicas de EMEA, [email protected]

La información anterior es proporcionada por Cision: http://news.cision.com

Descargo de responsabilidad: La información contenida en esta página puede proceder de terceros y no refleja necesariamente los puntos de vista u opiniones de KuCoin. Este contenido se proporciona solo con fines informativos generales, sin ninguna representación o garantía de ningún tipo, y tampoco debe interpretarse como asesoramiento financiero o de inversión. KuCoin no es responsable de ningún error u omisión, ni de ningún resultado derivado del uso de esta información. Las inversiones en activos digitales pueden ser arriesgadas. Evalúa con cuidado los riesgos de un producto y tu tolerancia al riesgo en función de tus propias circunstancias financieras. Para más información, consulta nuestras Condiciones de uso y la Declaración de riesgos.