➥ AI 安全正進入下一個階段，@perturbaix 是我正在關注的項目之一。 到目前為止，對抗性測試主要依賴內部團隊或開源工具來尋找攻擊方式。 但 Perturb 正在處理更有趣的事：持續且有激勵的強化過程。 ▸ 全球礦工競爭尋找真實的對抗樣本 ▸ 經驗證的攻擊將用於模型訓練，而不僅僅是報告 ▸ 可操作的健壯性分數與數據集 ▸ 從子網活動轉向實際產品 這正是從一次性紅隊測試 → 持續的外部壓力的轉變，我認為這是生產級 AI 所需的。 我目前正在觀察他們的產品發佈進展，以及子網以外的團隊是否真正使用其輸出結果。 #TAO #SN26 #Perturb