Charge Robotics 的首席技術官兼聯合創始人 Max Justicz 使用 OpenAI 的一個模型,發現了一個嚴重漏洞;如果被利用,駭客可能借此控制運行 Ubuntu 的伺服器。Ubuntu 是一種廣泛使用的開源、基於 Linux 的作業系統。
Justicz 對網絡安全有業餘興趣,此前也曾在此同一代碼庫中發現過漏洞。他告訴 TechCrunch,這次他是透過 OpenAI 今年 7 月發布的 GPT 5.6 Sol,並借助該公司名為 Daybreak Blue 的項目發現了這個問題。這個項目讓網絡安全防禦者能夠使用強大的前沿模型。
「我只是把 ChatGPT 對準同一段代碼,然後說:『我之前發現過一個幾年前已經修復的 bug,請幫我找出同樣嚴重或更嚴重的 bug』,它在 2 小時後就為我找到了這個,」Justicz 說。「這個漏洞極其複雜,人工很難發現,但它確實存在!」
他已將此問題報告給負責維護相關軟體的 Debian Project,對方隨後發布了補丁以修復該漏洞。目前沒有已知證據表明該漏洞已被利用。然而,他如此輕易地發現此問題,說明即使是新手駭客,也可能借助 AI 模型發現並利用潛在漏洞,而此類風險可能只是冰山一角。
我只能想像,如果有更多時間,以及能接觸到限制更少的模型,人們還能做出什麼。我們應該預期,在未來幾個月內會發現並利用一些極其瘋狂的漏洞,”Justicz 在討論這一發現的社交媒體帖子中寫道。“對這裡的大多數人來說,這可能顯而易見,但目前將一段尚未經過審計的程式碼或二進位檔案直接交給一個強大的 AI 模型,確實具有巨大的優勢。”
OpenAI 显然已經注意到了這一點。該公司今天宣布,將向其網路安全項目 Daybreak Red 中最高等級的用戶提供一款專注於網路安全的新模型 ChatGPT Cyber。Daybreak Red 允許進攻性網路安全研究人員使用漏洞挖掘和開發工具。
就在昨天,OpenAI 表示,同一模型已被用於掃描 Linux 內核並為漏洞準備補丁,發現了 948 個潛在問題。OpenAI 還在 Firefox 這一網頁瀏覽器中發現了 81 個「新穎」的漏洞。
This cutting-edge laboratory stated in a statement: “Our goal is to significantly expand Daybreak to bring advanced security research to organizations of all sizes, independent researchers, and open-source maintainers.”
OpenAI 一直強調,保護數字基礎設施的人只有一個很窄的時間窗口來採取行動,因為 AI 模型只會變得更擅長駭客攻擊,而且更容易取得。對網路防禦者來說,這種感覺就像前沿實驗室釋放出了一大堆新的工作量,已經超出了他們的資源承受能力。Justicz 說,他自己為了尋找多個漏洞,在訂閱和 token 上花了大約 5,000 美元。
除了 Daybreak 的模型訪問權限之外,OpenAI 還宣布了一項 10 億美元的計劃,支持參與該項目並從事電網或供水系統等關鍵基礎設施工作的網絡安全專業人士。
Daybreak 項目本身也面臨一些批評。Justicz 指出,這家前沿實驗室最近似乎「削弱」了 Daybreak Blue,使其在發現漏洞方面不那麼有用。一方面,限制潛在惡意行為者的訪問可能是好事——Justicz 說,他加入該項目時只是上傳了自己的駕照照片。另一方面,網路安全專業人士表示,如果他們不能使用前沿技術,而惡意行為者卻可以部署去除了安全護欄的開源權重模型,那麼他們就會束手束腳。
儘管如此,OpenAI 仍表示,參與 Daybreak 項目的網路安全專業人士只有「數千人」,而潛在駭客的數量要大得多。
目前尚不清楚前沿實驗室是否為這一問題投入了足夠資源。OpenAI 技術團隊研究員 Eric Wallace 表示:「我們現在正把相當大一部分前沿算力用於在開源代碼庫中發現並修補漏洞,完全是公益性質。」
不過,Linux 漏洞搜尋的成本為 120 萬美元,這明顯低於該公司為尋找一個著名流體動力學問題的潛在解決方案而投入的約 600 萬美元 token 支出。
如果世界所依賴的數位基礎設施確實只剩一個很窄的修補窗口,那麼或許需要更強的緊迫感。



