
我實際認為 Perturb 的方法是有道理的,但並非基於人們常提到的那種「去中心化 AI」的常見理由。 隨著模型能力增強,以及代理開始在更少人工監督下運作,AI 安全正成為一個越來越嚴重的問題。 而這正是 @perturbaix 具有結構性優勢的地方。 大多數紅隊測試仍由內部或使用靜態開源工具完成。Perturb 將敵對攻擊的發現轉變為持續且有激勵的競賽,並利用這些發現進行實際的模型訓練。 問題在於,發現攻擊與將其轉化為企業願意付費的成果,是兩件不同的事。 即使礦工持續產生強大的敵對範例,真正的問題在於,企業是否會將由此產生的分數、資料集和證書視為足夠可信,並據此採取行動。 轉向一個包含持續掃描與強化的真实產品,可能讓他們對這層分發機制擁有更多控制權。 我們也看到子網正在成熟(掃描與訓練已上線,產品階段已開始)。 但我不會將子網的活動誤認為是商業模式已成功的證明。 離開純粹的研究模式意味著 Perturb 現在必須證明,它能不單純依賴發行量,就能創造需求與收入。 我的觀點是,在未來幾年,持續且外部的敵對壓力,可能會變得與模型性能同等重要。 如果 Perturb 能將此商業化,且輸出不局限於子網內部,那麼這個方向就是合理的。 否則,它有風險僅停留在一個有趣的研發網絡,而非基礎設施。 無論如何,SN26 在此水準都相當有趣。 #Bittensor $TAO #Perturb #AI
