📝Perturbは数ヶ月にわたり、継続的な敵対的スキャンとトレーニングを実施してきました。これはBittensor上でこれまでで最も実用的なAIセキュリティ実験の一つかもしれません。 @perturbaixは今年初めにリリースされ、すでに単なる攻撃発見の段階を超えています。 最近のアップデートによると： - 敵対的スキャンとトレーニングが両方同時に進行中 - マイナーは自ら生成した攻撃を用いてモデルを微調整できるようになりました - サブネットの開発から約5ヶ月後に製品フェーズが正式に開始 - 耐性スコア、データセット、証明書が主な出力成果物 – アルファ版の買い戻しとオーナーのロックアップが既に実施中 – 数週間以内に商業リリースを目標に このアプローチを支えているのは何でしょうか？ Perturbは、モデルの不具合を発見することをインセンティブ付きのコンペティションに変え、得られた検証済みの敵対的サンプルを単なる報告書として終わらせるのではなく、実際にモデルの堅牢性を高めるために活用しています。 これは一回限りの監査ではなく、継続的な外部からの圧力をかけるという発想です。 生産環境でAIを運用するチームが注目する理由がよくわかります。 しかし、この仕組みにはさらに詳細な検討が必要です。 サブネットの活動量や攻撃成功率が、必ずしも企業がこの製品を購入することを意味するわけではありません。また、現在のビジョンモデルを超えてスケールさせるには、実質的な労力が必要です。 さらに、排出量や初期の利用実績は、商業レイヤーが本格稼働した後の持続可能な収益を保証しません。 私はこの製品のリリースが実際にどのように交換につながるかを注目しています。 Perturbが継続的な敵対的データを、企業が信頼して支払い、実際に利用する価値あるものに変えることができれば、これは分散型AIセキュリティにおける意味のある実験となるでしょう。 #Bittensor $TAO #Perturb