在模型評估期間發生安全事件,意味著在測試 AI 系統時發現了漏洞。 團隊會在公開發布前,通過極限測試來評估 AI 模型。 在此階段,審查人員通常會模擬攻擊,以檢查是否存在數據洩露或安全失效的情況。 在這一階段發現漏洞,表明評估過程成功在風險影響真實用戶前捕捉到了問題。 分享這些經驗有助於整個技術社群建立更安全的系統。 AI 安全是一個新興領域,因此企業必須合作以理解新興威脅。 當一個組織公佈其發現時,其他開發者就能精確了解漏洞是如何被利用的。 這種共享知識讓全球工程師能夠修復類似缺陷,並強化全球 AI 防禦體系。

