F-Secure、AIが消費者に与える26のリスクとその対策を特定

icon币界网
共有
AI summary icon概要
F-Secureは、誤導的なチャットボットや不具合のある自律エージェントを含む、AIが消費者に与える可能性のある26の危害を示しました。メガン・スカイア博士が主導する「AI危害分類」は、リスクの拡散経路と対策の適用箇所を明らかにしています。開発者とサービスプロバイダーは、危害の防止において責任を共有しています。この研究は、TrustGuardやTrustPathなどのツールを通じて、AI時代における信頼構築を支援しています。このAI+暗号通貨ニュースは、新興技術のセキュリティ確保に向けた継続的な取り組みを強調しています。
CoinMarketCapが報道:

F-SecureがAIが消費者に与える可能性のある26のリスクと、そのリスクを防ぐ方法を特定

新しいAI被害分類法は、誤ったチャットボットの回答から攻撃された自律エージェントに至るまで、AIシステム内での被害の伝播を追跡し、防御策がどの段階で介入できるかを特定します。

ロサンゼルス、11月10日(ロイター/PRNewswire)-- 人工知能は、現在、検索、コミュニケーション、意思決定、およびデジタルライフの管理方法に影響を与えています。しかし、それが誤った場合、人々にどのような被害をもたらすのでしょうか?F-Secureが新たに発表したAI Harms Taxonomyは、26種類の異なる消費者被害をマッピングし、それぞれの被害がどのようにユーザーに到達するかを追跡しています。その結果、保護対策がどの段階で介入できるか、そして誰が最も支援できるかが明確に示されています。

この分類法は、F-Secureのチーフ脅威インテリジェンス研究員であるメガン・スカー博士が開発したもので、AIリスクに関する議論における一つの盲点を解決することを目的としています。ほとんどのフレームワークは、可能性のある失敗点を列挙するだけですが、それらの被害を防ぐことができるシステムや企業と結びつけることはしません。F-Secureの研究はさらに進み、AI駆動の脅威と消費者への影響との間の各層を整理し、防御をどこに展開すべきかを示しています。

スカイア博士は、「AIシステムの能力が高まるにつれて、それらが誤った判断を下す影響は、単に悪質な回答を提供する以上のものになる可能性がある。これらのシステムを開発する者は、それらがどのように故障する可能性があるか、故障時に誰が被害を受けるかを理解し、被害が発生する前に保護策を設ける責任がある。」

この分類法は、リスク自体が変化していることを反映しています。過去には犯罪者が直接個人を標的にしていましたが、現在ではAIがその中間に位置し、新たな参加者を生み出し、新たな失敗の仕方をもたらしています。誰かに代わって行動するアシスタントが操作されて損害を引き起こす可能性があり、チャットボットは自信を持ってユーザーを誤導することもあります。より基本的なレベルでは、問題はAIが指示や記憶をどのように処理するか、またはどの他のサービスに接続されているかに始まることが多いです。

この研究では、26種類の危害を5つの関係タイプと19層の中間層に分類し、各段階のリスクに対応するための24種類の防御策を設計しました。例としては、AIが生成した音声や動画によるなりすまし、エージェントによる有害な財務決定、個人情報の漏洩、または古くなった文脈に基づいて行動することが挙げられます。また、研究では、悪意のある指示がAIシステムが処理するコンテンツに隠され、エージェントの行動やチャットボットがユーザーに伝える内容に影響を与える可能性のある攻撃も検討されています。

このフレームワークの主要な発見の一つは、AIによる危害を防ぐ責任が複数の関係者に分散しているということである。一部のリスクは個人デバイス上のセキュリティソフトで対処できるが、他のリスクはより上流で対処する必要があり、AI製品およびその基盤システムを開発する企業が責任を負う。これには、AIが情報をどのように記憶し、どの他のサービスと接続しているかが含まれる。どの段階を誰が担当するかを明確にすることで、防御をどこに置き、誰がそれを構築すべきかが明確になる。また、このことは、ユーザーが疑わしいコンテンツを識別したり、AIが提供する情報を繰り返し確認したりすることで単独で安全を保てるという見方を弱める。

AIが「情報を生成」から「情報に基づいて行動」へと移行する中で、責任の所在に関する問題はますます切実になっている。チャットボットが誤った回答をした場合、ユーザーを誤導する可能性はあるが、少なくともユーザーはそのやり取りに参加している。一方、ユーザーのアカウントおよび関連サービスにアクセスできるエージェントは、このような確認のやり取りなしに実際の影響をもたらす可能性がある。保護策は、これらのシステムが実際に何をしているかに基づいて構築される必要があり、そのためにはチャットボットとエージェントの違いをまず理解することが不可欠である。

AIエージェントのための保護を構築する

この研究は、F-SecureがAI時代における信頼構築に向けて行っているより広範な取り組みの一部です。F-Secure Trustは、Quantum AI Lab QuTwoとの戦略的アライアンスと同時に発表され、AIエージェントが人々に代わって行動する場面が増える世界において、ユーザーを守るための取り組みです。TrustGuardは、AIとのやり取りにおける安全性を守ることを目的としており、TrustPathは、発見から提供に至るまでのデジタルジャーニーを守ることを目的としています。AIハーム分類法は、これらの取り組みの研究的基盤を提供し、対策が対処すべきリスクを明確にするとともに、効果的な保護がAIシステムを構築・運用する企業に依存することを明確に示しています。

AI時代における人間中心の研究

今日のデジタル脅威は、詐欺だけでなく多様化しています。F-SecureのIlluminate Researchチームは、人間と技術が現実でどのように相互作用するかを研究し、AI時代における信頼、欺瞞、オンラインのレジリエンスの複雑な現実を探求しています。AI Harms TaxonomyはIlluminate Research Hubで入手できます。

F-Secureについて

F-Secureは、38年にわたりデジタル脅威に対応してきた、人間中心でAI駆動の消費者セキュリティ体験企業です。同社は、AI駆動の詐欺が満ちあふれる世界において、デジタルサービスプロバイダーが信頼を高価値な成長エンジンに変えるのを支援し、顧客を保護するとともに、より良いデジタルライフの実現を助けます。同社は年間数十億回のデジタルインタラクションを保護し、世界中で数千万人の消費者を守り、パートナーに100億ドル以上の価値をもたらし、実証済みのスケールの影響を生み出しています。

ニュース担当者:

  • メグアン・ソイヤー、シニアPRマネージャー、[email protected]
  • ジョエル・ラット、脅威アドバイザー兼EMEA広報マネージャー、[email protected]

上記の情報はCisionが提供しています:http://news.cision.com

免責事項: 本ページの情報はサードパーティからのものであり、必ずしもKuCoinの見解や意見を反映しているわけではありません。この内容は一般的な情報提供のみを目的として提供されており、いかなる種類の表明や保証もなく、金融または投資助言として解釈されるものでもありません。KuCoinは誤記や脱落、またはこの情報の使用に起因するいかなる結果に対しても責任を負いません。 デジタル資産への投資にはリスクが伴います。商品のリスクとリスク許容度をご自身の財務状況に基づいて慎重に評価してください。詳しくは利用規約およびリスク開示を参照してください。