Saya sebenarnya berpikir pendekatan Perturb masuk akal, tetapi bukan karena alasan "AI terdesentralisasi" yang biasa disebut-sebut orang. Keamanan AI menjadi masalah yang jauh lebih besar seiring dengan meningkatnya kemampuan model dan semakin banyaknya agen yang beroperasi dengan pengawasan manusia yang lebih sedikit. Dan di sinilah @perturbaix memiliki keunggulan struktural. Sebagian besar red teaming masih dilakukan secara internal atau dengan alat open-source statis. Perturb mengubah penemuan serangan adversarial menjadi kompetisi berkelanjutan yang diinsentif, lalu menggunakan temuan tersebut untuk pelatihan model nyata. Masalahnya adalah, menemukan serangan dan mengubahnya menjadi sesuatu yang akan dibayar perusahaan adalah dua hal yang berbeda. Meskipun penambang terus menghasilkan contoh adversarial yang kuat, pertanyaan sebenarnya adalah apakah perusahaan akan menganggap skor, dataset, dan sertifikat yang dihasilkan cukup kredibel untuk dijadikan dasar tindakan. Beralih ke produk nyata dengan pemindaian berkelanjutan + pengerasan bisa memberi mereka lebih banyak kendali atas lapisan distribusi tersebut. Kami juga melihat subnet ini semakin matang (pemindaian + pelatihan sudah aktif, fase produk mulai dimulai). Namun, saya tidak akan menganggap aktivitas subnet sebagai bukti bahwa model komersialnya sudah berjalan. Meninggalkan mode penelitian murni berarti Perturb sekarang harus membuktikan bahwa mereka bisa menciptakan permintaan dan pendapatan tanpa hanya mengandalkan emisi. Menurut saya, tekanan adversarial eksternal yang berkelanjutan bisa menjadi sama pentingnya dengan kinerja model dalam beberapa tahun ke depan. Jika Perturb bisa memproduksikan hal itu tanpa outputnya tetap terbatas secara internal di subnet, arahnya dapat dibenarkan. Kalau tidak, risikonya tetap menjadi jaringan penelitian yang menarik daripada infrastruktur. SN26 pada level ini tetap menarik bagaimanapun juga. #Bittensor $TAO #Perturb #AI