私は実際にPerturbのアプローチは理にかなっていると考えますが、人々がよく持ち出すような「分散型AI」という一般的な理由ではありません。 モデルの能力が高まり、エージェントが人間の監督をより少なくして動作し始めるにつれて、AIセキュリティははるかに大きな課題となっています。 そして、ここに@perturbaixには構造的な優位性があります。 ほとんどのレッドチームングは依然として社内または静的なオープンソースツールで行われています。Perturbは、攻撃の発見を継続的でインセンティブ付きのコンペティションに変換し、その結果を実際にモデルのトレーニングに活用しています。 問題は、攻撃を見つけることと、それを企業が支払う価値のあるものに変えることは、別々の課題であるということです。 たとえマイナーが強力な敵対的サンプルを継続して生成し続けても、真の問いは、企業が得られたスコア、データセット、証明書を信頼できるものと見なし、それに対して行動するかどうかです。 継続的なスキャン＋強化を備えた実際の製品へと進出することで、彼らはその配信レイヤーに対するより大きな制御力を得られる可能性があります。 また、サブネットが成熟しつつあることも見られます（スキャン＋トレーニングは稼働中、製品フェーズが始まりました）。 しかし、サブネットの活動を商業モデルが機能しているという証拠と混同すべきではありません。 純粋な研究モードを脱却したことで、Perturbはもはやエミッションに頼るだけでなく、需要と収益を生み出せるかどうかを証明しなければなりません。 私の見解では、今後数年間で、継続的で外部からの敵対的圧力が、モデルの性能と同等に重要になる可能性があります。 Perturbがその成果をサブネット内に留めず、製品化できれば、その方向性は正当化されます。 そうでなければ、これは興味深い研究ネットワークのままにとどまり、インフラとしての地位を得られないリスクがあります。 いずれにせよ、このレベルでのSN26は興味深いです。 #Bittensor $TAO #Perturb #AI