Hacktron 的研究人員利用 AI 入侵 OpenAI,現正協助其尋找下一個入侵途徑。 OpenAI 正持續加強其網路安全措施,在最近宣布將 Cathedral 的研究人員納入下一輪安全攻防行動後,現已與 Hacktron 合作,擴大其對前沿模型的存取權限,以發現漏洞,特別是 OpenAI 系統與第三方服務連接的方式。 Hacktron 已經證明這些連接值得關注:他們將論壇漏洞與登入缺陷串聯,在不到 72 小時內,僅用數小時的人工操作,便成功存取員工的 ChatGPT 帳戶,並展示對內部儲存庫的存取權限。現在,他們將獲得更廣泛的 OpenAI 前沿模型存取權,以協助發現更多弱點。 鑑於不斷湧現的駭客攻擊與新漏洞,我很欣慰看到更多資源投入於為研究人員提供更優質的模型,這在當前顯得越來越必要。

