
我一向喜歡將加密貨幣網絡用於改善真實的 AI 系統,而非僅僅生成更多內容。 至少,這比大多數投機性的 AI 代幣更有實用價值。 @perturbaix 正在將這個想法推廣到極致,透過持續的對抗性測試與強化。 可以將其視為將模型漏洞轉化為一種持續且有激勵的過程,由獨立礦工不斷尋找破解模型的方法,並利用這些發現來強化模型。 這可能改變團隊對健壯性的處理方式,因為對抗性測試通常: → 在內部或偶爾進行 → 依賴有限的內部專業知識 → 單次報告後便停止 Perturb 的構想是讓這種壓力變得持續、可驗證,並讓團隊更容易採取行動。 但其優勢不僅限於子網。其輸出成果直接有助於在 AI 系統上線前,降低其脆弱性。 這正是我期待去看到發展的去中心化 AI 方面。 $TAO #Perturb #SN26
