ZeruAI 的文章《Any bot detector can flag any percentage you like》提出了一個極好的測試:詢問同一個檢測器是否會對一群毫無疑問的用戶返回相同的比率。如果有,那你看到的是一份排名,而非實際計數。我嘗試將此測試應用於 @zerufinance 的數據: 他們的範例:1,981 個錢包中,618 個(31.2%)被標記為硬性機器人,中位數交易次數為 1,886 次。手動檢查 5 個錢包:3 個為真實自動化賬戶,2 個為真人(一位高級用戶,一位未違規的空投刷單者)。 範例的限制:5 個錢包的樣本足以說明,但不足以估算假陽性比率。文章僅提及被標記群體的中位數,未提供其餘群體的中位數,因此「活動最多」一說需有對照數據。 白皮書中的活動數據:Sybil 分配減少 56%,高品質錢包參與率增加 49%,分發後拋壓降低 50%。低品質錢包分配比例從 21.0% 下降至 13.5%,高品質錢包比例從 41.7% 上升至 54.7%,平均持有時間從 9.8 天增至 12.6 天。 應用此測試:註釋提到這是內部分析,客戶名稱與參數可能隱藏,並與未採用此類措施的「等效」活動進行比較。誰標註了「Sybil」和「低品質」?使用何種方法?對照活動如何選取?若標籤由過濾器自身生成,則改善程度由同一過濾器測量。數據使用多種指標(百分比變化、權重、天數),因此需要完整的分母。 優點:白皮書自述限制:數據覆蓋不足、模型隨時間漂移、競爭對手適應、單鏈資金來源聚類可能被多鏈資金來源繞過。懲罰按程度分級,因此一次誤標僅損失部分獎勵,且決策閾值由分配方決定,而非 oracle。 一個系統能自行提出驗證其自身的測試,是良好的跡象。其餘部分則是公開標籤與對照群組,讓外部人士能重複此測試。


