F-Secure identifie 26 façons dont l'IA peut nuire aux consommateurs et comment prévenir les risques

icon币界网
Partager
AI summary iconRésumé
F-Secure a identifié 26 façons dont l'IA peut nuire aux consommateurs, notamment via des chatbots trompeurs et des agents autonomes défectueux. La taxonomie des risques de l'IA, dirigée par la Dr. Megan Squire, montre comment les risques se propagent et où appliquer des mesures de protection. Les développeurs et les fournisseurs de services partagent la responsabilité de prévenir les dommages. Cette recherche soutient la construction de la confiance à l'ère de l'IA, avec des outils comme TrustGuard et TrustPath. Cette actualité IA + crypto met en lumière les efforts continus pour sécuriser les technologies émergentes.
CoinGape rapporte :

F-Secure identifie 26 façons dont l'IA pourrait nuire aux consommateurs et comment prévenir ces risques

La nouvelle taxonomie des dommages liés à l'IA suit la propagation des dommages au sein des systèmes d'IA, des réponses trompeuses des chatbots aux agents autonomes compromis, et identifie les points d'intervention possibles pour les mesures de défense.

Los Angeles, 10 novembre (Reuters) / PRNewswire -- L'intelligence artificielle influence aujourd'hui la manière dont nous cherchons, communiquons, prenons des décisions et gérons notre vie numérique. Mais quand elle commet des erreurs, comment peut-elle nuire aux individus ? La nouvelle Taxonomie des préjudices liés à l'IA publiée par F-Secure cartographie 26 types différents de préjudices consommateurs, en traçant la manière dont chaque préjudice atteint les utilisateurs. Le résultat est une présentation claire des points d'intervention possibles pour les mesures de protection, ainsi que des acteurs les plus à même d'apporter de l'aide.

Cette classification a été développée par la Dr. Megan Squire, chercheuse principale en intelligence des menaces chez F-Secure, afin de combler un point aveugle dans les discussions sur les risques liés à l’IA. La plupart des cadres se contentent de lister les endroits où des erreurs peuvent survenir, sans aller plus loin en reliant ces dommages aux systèmes et entreprises capables de les prévenir. La recherche de F-Secure va plus loin en cartographiant chaque niveau entre les menaces pilotées par l’IA et leurs impacts sur les consommateurs, permettant ainsi d’identifier précisément où les défenses doivent être déployées.

Le Dr. Squire déclare : « À mesure que les capacités des systèmes d'IA s'améliorent, les conséquences de leurs erreurs peuvent aller bien au-delà de la fourniture d'une mauvaise réponse. Les développeurs de ces systèmes ont la responsabilité de comprendre comment ils pourraient échouer, qui serait blessé en cas d'échec, et de mettre en place des mesures de protection avant qu'un dommage ne se produise. »

Cette classification reflète le fait que le risque lui-même évolue. Autrefois, les criminels ciblaient directement une personne, mais aujourd'hui, l'IA se trouve au milieu, ajoutant de nouveaux acteurs et de nouvelles façons de commettre des erreurs. Un assistant agissant au nom d'autrui peut être manipulé pour causer des dommages, tandis qu'un chatbot peut également tromper les utilisateurs avec une confiance excessive. En couche plus fondamentale, les problèmes commencent souvent par la manière dont l'IA traite les instructions et la mémoire, ou par les autres services auxquels elle est connectée.

Cette étude classe actuellement 26 types de dommages en cinq catégories de relations et 19 niveaux d'intermédiaires, et conçoit 24 mesures de défense pour faire face aux risques à chaque étape. Les exemples incluent l'usurpation par voix et vidéos générées par l'IA, des décisions financières nuisibles prises par des agents, la fuite d'informations personnelles ou l'action dans un contexte obsolète. L'étude examine également une attaque consistant à cacher des instructions malveillantes dans le contenu traité par le système d'IA, ce qui pourrait influencer le comportement de l'agent ou ce que le chatbot dit aux utilisateurs.

L'une des découvertes clés de ce cadre est que la responsabilité de prévenir les dommages causés par l'IA est répartie entre plusieurs parties prenantes. Certains risques peuvent être gérés par des logiciels de sécurité installés sur les appareils personnels ; d'autres doivent être traités en amont, par les entreprises qui développent les produits d'IA et leurs systèmes sous-jacents, y compris la manière dont l'IA mémorise les informations et les autres services auxquels elle est connectée. Clarifier qui est responsable de quelles étapes aide à déterminer où les défenses doivent être mises en place et qui doit les construire. Cela affaiblit également l'idée selon laquelle les individus peuvent rester en sécurité simplement en identifiant les contenus suspects ou en vérifiant systématiquement les informations fournies par l'IA.

Alors que l'IA passe de la « génération d'informations » à l'« action basée sur les informations », la question de la responsabilité devient plus urgente. Si un chatbot donne une réponse erronée, il peut tromper les utilisateurs, mais au moins les utilisateurs restent impliqués dans l'interaction ; en revanche, un agent ayant accès aux comptes utilisateurs et à leurs services associés peut causer des conséquences réelles sans ce type de confirmation réciproque. Les mesures de protection doivent être conçues autour de ce que ces systèmes font réellement, ce qui exige d'abord de comprendre la différence entre un chatbot et un agent.

Construire une protection pour les agents IA

Cette étude fait partie des efforts plus larges de F-Secure visant à établir la confiance à l'ère de l'IA. F-Secure Trust, annoncé conjointement avec l'alliance stratégique conclue avec Quantum AI Lab QuTwo, représente le travail de l'entreprise pour protéger les utilisateurs dans un monde où les agents IA agissent de plus en plus en leur nom. TrustGuard vise à aider à protéger la sécurité des utilisateurs pendant leurs interactions avec l'IA, tandis que TrustPath vise à protéger leur parcours numérique, de la découverte à la livraison. La taxonomie des risques liés à l'IA fournit la base scientifique à ces initiatives, en identifiant les risques que les mesures de protection doivent contrer, et en soulignant clairement que des garanties efficaces dépendent également des entreprises qui conçoivent et exploitent les systèmes d'IA.

Études humaines à l'ère de l'IA

Les menaces numériques d'aujourd'hui ne se limitent plus aux arnaques. L'équipe Illuminate Research de F-Secure étudie la manière dont les humains et la technologie interagissent dans le monde réel, en explorant les réalités complexes de la confiance, de la tromperie et de la résilience en ligne à l'ère de l'IA. La Taxonomie des préjudices liés à l'IA est disponible sur le Illuminate Research Hub.

À propos de F-Secure

F-Secure est une entreprise de sécurité numérique grand public, centrée sur l’humain et pilotée par l’IA, avec 38 ans d’expérience dans la lutte contre les menaces numériques. L’entreprise aide les fournisseurs de services numériques à transformer la confiance en un moteur de croissance à haute valeur ajoutée — en protégeant leurs clients et en les aidant à mener une meilleure vie numérique dans un monde envahi par les escroqueries pilotées par l’IA. Chaque année, elle protège des milliards d’interactions numériques, sécurise des dizaines de millions de consommateurs à travers le monde et génère plus de 10 milliards de dollars de valeur pour ses partenaires, démontrant un impact à grande échelle éprouvé.

Contact média :

  • Meghan Sawyer, directrice des relations publiques senior, [email protected]
  • Joel Latto, conseiller en menaces et directeur des relations publiques EMEA, [email protected]

Les informations ci-dessus sont fournies par Cision : http://news.cision.com

Clause de non-responsabilité : les informations sur cette page peuvent avoir été obtenues auprès de tiers et ne reflètent pas nécessairement les points de vue ou opinions de KuCoin. Ce contenu est fourni à titre informatif uniquement, sans aucune représentation ou garantie d’aucune sorte, et ne doit pas être interprété comme un conseil en investissement. KuCoin ne sera pas responsable des erreurs ou omissions, ni des résultats résultant de l’utilisation de ces informations. Les investissements dans les actifs numériques peuvent être risqués. Veuillez évaluer soigneusement les risques d’un produit et votre tolérance au risque en fonction de votre propre situation financière. Pour plus d’informations, veuillez consulter nos conditions d’utilisation et divulgation des risques.