➥ AIセキュリティは次の段階に入り、@perturbaixは私が注目しているプロジェクトの一つです。 これまで、アドバーサリーテストは主に内部チームやオープンソースツールを用いた攻撃の発見に焦点を当ててきました。 しかしPerturbは、より興味深い課題に取り組んでいます：継続的でインセンティブ付与された堅牢性強化です。 ▸ グローバルなマイナーが実際のアドバーサリーサンプルを競い合う ▸ 検証された攻撃は報告書用ではなく、モデルのトレーニングに活用される ▸ 企業が行動に移せる堅牢性スコアとデータセット ▸ サブネット内の活動から実際の製品へと移行 これは、一回限りのレッドチームングから、生産AIに必要な継続的な外部からの圧力への転換です。 私は現在、彼らの製品ローンチの進展と、サブネット外のチームが実際に出力を使用するかどうかを注視しています。 #TAO #SN26 #Perturb