Hugging Face 首席政策官兼戰略高級副總裁 Irene Solaiman 在近期一期《Equity》播客中表示，正是那些讓開放式 AI 平台更有價值的特質——比如開放入口和豐富數據——也可能讓它們更容易遭到駭客攻擊。
她提到，10 月針對 OpenCode 的攻擊就是最新例子。該攻擊針對用戶的第三方 API 密鑰，並造成財務損失。此前，今年夏天還發生過一樁事件：一個 OpenAI 代理群組入侵了 Hugging Face，顯然是試圖在獲取網路安全評估答案後掩蓋蹤跡。
風險並不只限於歡迎開放社區貢獻的平台。週一，協助開發者運行和訓練開放 AI 模型的 AI 基礎設施初創公司 Fireworks 表示，攻擊者訪問了部分客戶的模型權重、資料集和帳單資訊。公司在調查期間暫時關閉了某些自助資料功能。Solaiman 表示，雖然這次攻擊未必是因為 Fireworks 的開放性，但它凸顯了 AI 基礎設施提供商內部集中存放了多少有價值的資訊。
Solaiman 在《Equity》節目中表示：「讓我擔心開放社區會成為攻擊目標的那些因素，也正是它之所以特別的原因。我們本來就是要保持寬鬆。我們希望住在地下室裡的普通愛好者，即使沒有機構背景，也能參與貢獻。」
她在另一段對話中補充說：「你希望人們可以直接提交 pull request，並允許任何沒有有效機構背景的人參與……但隨後就會有一些人把事情搞砸，連累其他人。」
吸引攻擊者的不只是這種寬鬆機制。開源平台托管的大量資訊本身也使它們成為目標。Solaiman 說，OpenAI 的代理群組之所以盯上 Hugging Face，是因為它保存了評估數據集；而 OpenCode 在這起事件中的目標則是其“很有油水的第三方 API 密鑰”。
Solaiman 對 TechCrunch 表示：“這兩者結合起來，讓我們成了首要目標。”她還補充說，在如今已經獲得大量公眾支持的時點，開源“有可能真的收縮”。
近期，行業內不少人都公開支持開放式 AI 模型，包括英偉達 CEO 黃仁勳。越來越多的政府、企業和初創公司也在依賴開源模型進行開發。
那麼，所謂的收縮會是什麼樣子？理論上，這可能意味著限制誰可以上傳模型或資料集、加強身份驗證，或在開發者存取某些功能前增加額外審查。雖然這些措施可以保護平台免受攻擊，但也可能讓獨立研究人員和愛好者更難參與他們過去本可加入的社群。
目前，Hugging Face 正試圖避免走這條路。Solaiman 說，公司一直在加強監測工具以發現黑客行為，並採取措施防止攻擊。不過，她指出，監測的維護成本很高，並不是每個平台都負擔得起。
她說：「管理存取權杖曾經是讓該代理群組獲得更高存取權限的原因之一，因此我們現在輪換這些權杖的頻率比以往高得多。我們現在也有更嚴格的網路控制。」
換句話說，如今賦予管理員對 Hugging Face 系統廣泛訪問權限的憑證，會更頻繁地更換，這意味著被盜令牌的可用時間會更短。
開源生態系統的其他部分也在應對類似的安全取捨。GitHub 作為全球最大的開源項目託管平台，一直致力抵禦攻擊者向項目注入惡意代碼以快速傳播惡意軟體的行為。該公司已開始加強向 npm registry 發布軟體包的安全要求，撤銷舊的身份驗證令牌，並限制新令牌的有效期。
負責軟件供應鏈安全的 GitHub 工程師 Zach Steindler 透過電子郵件告訴 TechCrunch，儘管安全措施可能會打亂既有工作流程，但平台可以在不根本限制參與的情況下變得更安全。
Steindler 說：「這不是在限制功能，而是在修復本就不安全的東西。」他指出，npm install 腳本已存在多年，但最近的攻擊凸顯了它們可能有多危險。GitHub 還與 OpenJS 合作，後者是一個託管關鍵 JavaScript 開源項目的非營利組織，共同尋找更安全的做法。
Steindler 表示，同樣的邏輯也適用於安全團隊如何分配精力：“安全的核心是利用我們擁有的資源最大化影響力，而我更願意將資源投入到發現可疑行為和遏制能力上：這些能力涵蓋所有帳戶和訪問方式。可疑行為就是可疑行為，不論是誰在實施。”