サイバーセキュリティ企業Frenosは、10のAIモデルのうち3つが、約90％の試行で成功した産業攻撃計画を生成したことを発見しました。この研究は、AIが電力および水道システムに対する攻撃を計画する能力を高めていることを示しています。研究者は、水処理を監視するためのソフトウェアを含む産業システムに対する攻撃計画の作成能力をモデル評価しました。
フレノスは、各モデルの結果に顕著な差異があることを発見しました。研究者がフロンティアモデルと分類した3つのモデルは、試行の17.9％～31.9％で成功しました。最も優れた外国製オープンウェイトモデルの成功率は36.2％でした。最も優れた米国製オープンウェイトモデルの成功率は5.2％でした。フレノスは、テストされたモデルの名前を公表していません。
この研究では、約17,000回のテストが行われ、そのうち2,520回は完全な攻撃計画の策定を試みた。研究者たちは、標的の可能性についての情報を提供し、モデルに特定の目的へのステップを構築するよう依頼した。Frenosの共同設立者兼CTOであるハリー・トーマスは、研究者たちが比較的シンプルな設定でモデルをガイドしたと述べた。さらに多くのコンテキストとフィードバックを提供する高度なツールを使えば、パフォーマンスを向上させられる可能性がある。トーマスは、より強力なフレームワークがあれば、モデルに更大的な利点を与えることができたと述べた。
重要なインフラの運用者は、準備に要する時間が減少しており、無料で利用可能なAIモデルにより、攻撃がますます容易になるだろう。アメリカ電力の元シニアセキュリティ責任者であるスティーブ・スウィックは、報道陣に対し、この脅威は前例のない速さで進展していると語った。国家背後勢力やサイバー犯罪者は長年、水道システム、製造工場その他の重要なサービスを標的にしてきている。多くの運用者は十分な人手や資金を欠いている。システムのテストやアップグレードは、運用者が耐えられないようなサービスの中断を引き起こす可能性もある。産業用システムは、従来の企業ネットワークとは異なり、予期しないトラフィックやコマンドに対して悪影響を受けやすい。失敗した攻撃であっても、重要な運用を中断させる可能性がある。
トーマスは、攻撃者が産業ネットワークに侵入した後、AIが人間のハッカーのような時間制約なしに、システムを静かにマッピングし、脆弱性を特定できると述べた。トーマスは、AIは食事や睡眠、トイレの休憩を必要としないと述べた。サイバーセキュリティ企業Armadinの運用技術責任者であるポール・シェバーは、AIエージェントがすでに偵察を実行し、広範なデータを処理できる一方で、セキュリティアラートを引き起こす必要がないと述べた。
最近の数週間で、ホワイトハウス、最先端AI企業、サイバーセキュリティ組織から、重要なインフラ機関のコスト削減とリソース供給を目的とした取り組みが発表された。
AIモデルが産業システム攻撃を計画する能力を高めつつある
FLASH AI共有
概要
Frenosによる新規研究では、AIモデルが産業システムへの攻撃を計画する能力が高まっていることが明らかになりました。テストされた10のモデルのうち、3つは約17,000回の試行のうち90％の成功率を達成しました。最も優れた海外オープンウェイトモデルの成功率は36.2％でした。専門家は、電力および水道インフラへのリスクが高まっていると警告しています。サイバーセキュリティへの懸念が高まる中、オープンインターレストの変動に対する市場の感情を反映する可能性のあるアルトコインに注目が必要です。Frenosの共同創設者であるハリー・トーマスは、AIは停止することなく動作できるため、攻撃者にとって強力なツールになると述べました。元セキュリティ責任者のスティーブ・スウィックは、多くの運用者がこのような脅威に対抗するためのリソースを欠いていると追加しました。
出典:原文を表示
免責事項: 本ページの情報はサードパーティからのものであり、必ずしもKuCoinの見解や意見を反映しているわけではありません。この内容は一般的な情報提供のみを目的として提供されており、いかなる種類の表明や保証もなく、金融または投資助言として解釈されるものでもありません。KuCoinは誤記や脱落、またはこの情報の使用に起因するいかなる結果に対しても責任を負いません。
デジタル資産への投資にはリスクが伴います。商品のリスクとリスク許容度をご自身の財務状況に基づいて慎重に評価してください。詳しくは利用規約およびリスク開示を参照してください。