AI 模型展現出日益增強的規劃工業系統攻擊能力

iconFLASH AI
分享
AI summary icon精華摘要
Frenos 的一項新研究顯示,AI 模型越來越有能力策劃對工業系統的攻擊。在測試的 10 個模型中,有三個在近 17,000 次嘗試中成功了 90%。頂尖的外國開源權重模型成功率为 36.2%。專家警告,電力和水資源基礎設施面臨的風險日益增加。隨著網絡安全擔憂上升,開放利益轉變可能反映市場情緒,值得關注的山寨幣或將因此波動。Frenos 聯合創始人 Harry Thomas 表示,AI 可以不停運作,使其成為攻擊者強大的工具。前安全主管 Steve Swick 補充說,許多運營商缺乏應對此類威脅的資源。

網絡安全公司 Frenos 發現,10 個 AI 模型中有 3 個在約 90% 的嘗試中成功制定了工業攻擊計劃。該研究顯示,AI 在規劃針對電力和水系統的攻擊方面能力日益提升。研究人員評估了這些模型在規劃針對工業系統(包括用於監控水處理的軟件)的攻擊時的表現。

Frenos 發現各模型的結果存在顯著差異。研究人員分類為前沿模型的三個模型,成功率在 17.9% 至 31.9% 之間。表現最佳的外國開源權重模型成功率为 36.2%。表現最佳的美國開源權重模型成功率为 5.2%。Frenos 未公佈測試模型的名稱。

該研究共進行了近 17,000 次測試,其中包括 2,520 次嘗試開發完整的攻擊計劃。研究人員提供了有關潛在目標的資訊,並要求模型組合達成特定目標的步驟。Frenos 聯合創始人兼首席技術官 Harry Thomas 表示,研究人員以相對簡單的設定引導模型。更複雜的工具若能提供額外的上下文和回饋,或可提升表現。Thomas 說,一個更強大的框架可能為模型帶來更大的優勢。

關鍵基礎設施運營商的準備時間正在縮短,而免費可用的 AI 模型最終將使攻擊更容易實施。美國電力公司前高級安全主管史蒂夫·斯威克告訴記者,這一威脅正在以前所未有的速度發展。國家行為者和網絡罪犯長期以來一直針對供水系統、製造廠和其他關鍵服務。許多運營商缺乏足夠的人員和資金。系統測試和升級也可能導致運營商無法承受的中斷。工業系統對意外流量或指令的反應可能不佳,與傳統企業網絡不同。即使失敗的攻擊也可能中斷關鍵運作。

Thomas 表示,人工智能可以在攻擊者進入工業網路後,隱蔽地繪製系統圖並定位弱點,且不受人類駭客的時間限制。Thomas 說,人工智能不需要進食、睡眠或上廁所的休息時間。網路安全公司 Armadin 的運營技術主管 Paul Shaver 表示,人工智能代理目前已能執行偵察並處理大量資料,而無需必然觸發安全警報。

近幾週,白宮、前沿人工智慧公司和網路安全組織已推出各項措施,以降低關鍵基礎設施機構的成本並供應資源。

免責聲明:本頁面資訊可能來自第三方,不一定反映KuCoin的觀點或意見。本內容僅供一般參考之用,不構成任何形式的陳述或保證,也不應被解釋為財務或投資建議。 KuCoin 對任何錯誤或遺漏,或因使用該資訊而導致的任何結果不承擔任何責任。 虛擬資產投資可能存在風險。請您根據自身的財務狀況仔細評估產品的風險以及您的風險承受能力。如需了解更多信息,請參閱我們的使用條款和風險披露 。