AI 開發實驗室 OpenAI 於週二披露，其一組模型（包括公開可用的 GPT-5.6 Sol 和一項更強大但尚未發布的系統）「突破」了受控測試環境，並入侵了托管大量開源 AI 世界的 Hugging Face 的生產基礎設施。
這些模型正在通過一個稱為 ExploitGym 的內部基準測試進行運行，該測試評估長時間、多步驟的駭客任務，並在評估期間故意降低其網路安全拒絕行為。
請明確一點，這並非一個生產模型突然變得具有敵意，而是一個能力強大的模型，在沒有任何防護措施的情況下，被明確指示要贏得一次駭客測試——不擇手段地贏得勝利。
這些模型在測試軟體中發現了一個無人知曉的隱藏漏洞，並利用它繞過了將它們隔離在離線狀態的防護牆。一旦進入公開網際網路，它們猜測 Hugging Face 可能儲存了測試的答案。
為了進入系統，他們將盜取的密碼與更多隱藏的漏洞串聯起來，最終得以在 Hugging Face 的線上伺服器上執行自己的指令。
OpenAI 內部發現了該異常，而 Hugging Face 的團隊檢測並控制了該情況。該公司稱此事件為「前所未見」，並表示將採取廣泛的安全措施，以防止可能影響公共系統或服務的不良事件。
團隊在其部落格文章中表示：「我們正在以犧牲研究速度為代價，在修補漏洞時對基礎設施配置實施嚴格的控制。」「我們正在加強並增設未來訓練與評估的保護措施。」
大多數加密貨幣攻擊在資金轉移前就已發生。攻擊者掃描代碼、測試密碼、尋找外洩的憑證、分析簽名設定，並尋找進入管理員帳戶的途徑。
在 Hugging Face 事件期間，OpenAI 的模型執行了該過程的多個部分，從一個弱點轉移到另一個弱點，直至抵達生產伺服器。
加密市場為這種方法提供了許多可發揮的空間，今年早些時候的多起攻擊已證明了這一點。弱點可能是智能合約，但也可能是開發者筆記型電腦、被污染的軟體套件、橋樑驗證者，或多重簽名錢包中的一位簽署者。
以今年早些時候 Drift 的 285 億美元攻擊為例，這起竊案花了六個月的社交工程行動才取得特權存取權限。理論上，AI 代理可以同時測試多條路徑，追蹤失敗的嘗試，並在人類操作員睡眠時繼續運作。一旦找到路徑，操作員便可對實際攻擊和可行的退出路徑採取行動。
KelpDAO 的 2.92 億美元橋接損失暴露了另一項弱點。攻擊者發現了用於在區塊鏈之間移動資產的系統中單一驗證者漏洞。
這類攻擊始於耐心的代碼審查和基礎設施映射——這正是 OpenAI 的模型在發現未知漏洞時所執行的工作。
第三種攻擊針對鏈上治理系統。今年7月早些時候，一名攻擊者花費約440萬美元購買足夠的基於Solana的狗狗模因幣BONK，以發起並通過一項提案，將項目金庫中約2000萬美元轉移至攻擊者賬戶。此過程持續了三天，攻擊者隨後售出了所有用於贏得投票的代幣，當時CoinDesk已追蹤到此情況。
該攻擊中的購買、投票和金庫轉帳，個別而言都是有效的交易。但盜竊的關鍵在於理解這些規則如何相互作用，並發現取得控制權的成本遠低於可用資金。
Hugging Face 事件也對軟體供應鏈至關重要。加密貨幣開發者依賴公開的程式碼倉庫、雲端服務和套件註冊表。
儘管 OpenAI 的測試顯示機器完成了漏洞的長中段，但 Drift 和 KelpDAO 的攻擊才揭示了這條路徑的終點。