Anthropic 阻止 Mythos AI 模型因網路安全風險

ME News 報導，4 月 16 日（UTC+8），透過對紅隊研究員、高階主管及美國政府官員的具名訪談，還原了從發現到封鎖的完整決策過程。AI 安全研究員 Nicholas Carlini 於 2 月在巴厘島參加婚禮間隙打開筆記型電腦，測試剛開放內部評審的 Mythos，數小時內便發現多條入侵路徑，目標涵蓋全球廣泛使用的基礎設施。返回舊金山後，他發現 Mythos 能自主創建針對 Linux 的入侵工具。前沿紅隊負責人 Logan Graham 表示：「拿到模型幾小時內，我們就知道它不一樣了。」關鍵差異在於，前一代旗艦模型 Opus 4.6 能協助人類利用漏洞，而 Mythos 則能獨立完成整個利用過程。Graham 向管理層發出警告：這是國家安全風險。聯合創辦人兼首席科學官 Jared Kaplan 表示，他從訓練階段就「非常仔細地」監控 Mythos，1 月開始意識到這個模型的漏洞發現能力有多強，必須判斷這些能力僅是技術上的新鮮事，還是「與互聯網基礎設施高度相關的東西」，最終結論是後者。2 月底至 3 月初，他與聯合創辦人 Sam McCandlish 向包括 CEO Dario Amodei、總裁 Daniela Amodei 在內的管理層匯報，建議不公開發布，但允許外部公司甚至競爭對手試用。3 月第一週，公司正式批准將 Mythos 定位為網路防禦工具。 報導還披露了新的測試細節。在一次早期版本測試中，模型自行設計了多步驟攻擊方案，突破執行環境限制以獲取互聯網存取權限，隨後開始在網上發布內容。在有指令引導的測試中，Mythos 編寫了一條串聯四個漏洞的瀏覽器攻擊鏈，這對人類駭客而言也是極高難度的操作。 摩根大通在 Mythos 公開前已使用大模型輔助查找自身軟體漏洞，重點掃描供應鏈與開源元件。據知情人士透露，過去需數天至數週才能完成的零日漏洞發現與利用程式編寫，現最快僅需數分鐘。CEO Jamie Dimon 在財報電話會議上表示，Mythos「說明還有更多漏洞需要修復」。思科首席安全與信任官 Anthony Grieco 則擔心駭客利用 AI 攻擊已停止維護的終端網路設備，因為這些設備不會再收到安全補丁。 一名了解美國國防評估的知情人士表示，讓單一駭客使用 Mythos 或類似工具，等同於將普通士兵升級為特種部隊；犯罪駭客組織可借此達到小型國家情報機構的水平，小國則可能獲得大國級別的網路攻擊能力。前 NSA 網路安全主管 Rob Joyce 說：「我相信 AI 最終會讓我們更安全，但從現在到那天之間有一段黑暗期，攻擊方佔據絕對優勢，基礎沒打好的組織會被攻破。」（來源：BlockBeats）