Saya sebenarnya berpendapat pendekatan Perturb masuk akal, tetapi bukan kerana alasan biasa “AI terdesentralisasi” yang sering digunakan orang. Keselamatan AI menjadi masalah yang semakin besar seiring model menjadi lebih canggih dan agen mula beroperasi dengan pengawasan manusia yang kurang. Dan di sinilah @perturbaix mempunyai kelebihan struktur. Sebahagian besar red teaming masih dilakukan secara dalaman atau dengan alat open-source statik. Perturb menjadikan penemuan serangan adversarial sebagai kompetisi berterusan yang diinsentifkan, kemudian menggunakan temuan tersebut untuk latihan model sebenar. Masalahnya ialah mencari serangan dan mengubahnya menjadi sesuatu yang akan dibayar oleh syarikat adalah dua perkara yang berbeza. Walaupun penambang terus menghasilkan contoh adversarial yang kuat, soalan sebenarnya ialah sama ada perniagaan akan menganggap skor, set data, dan sijil yang dihasilkan sebagai cukup boleh dipercayai untuk diambil tindakan. Bergerak ke arah produk sebenar dengan pemindaan berterusan + pengerasan boleh memberi mereka lebih banyak kawalan atas lapisan pengedaran itu. Kita juga melihat subnet semakin matang (pemindaan + latihan sudah aktif, fasa produk bermula). Tetapi saya tidak akan mengkelirukan aktiviti subnet dengan bukti bahawa model komersial berjaya. Meninggalkan mod penyelidikan tulen bermakna Perturb kini perlu membuktikan ia mampu menjana permintaan dan pendapatan tanpa hanya bergantung pada emisi. Pandangan saya ialah tekanan adversarial berterusan dari luar boleh menjadi sama pentingnya dengan prestasi model dalam beberapa tahun ke depan. Jika Perturb boleh menghasilkan produk itu tanpa hasilnya kekal sebahagian besar dalaman subnet, arahannya adalah dibenarkan. Jika tidak, ia berisiko kekal sebagai rangkaian penyelidikan yang menarik daripada infrastruktur. SN26 pada tahap ini menarik sama ada cara apa pun. #Bittensor $TAO #Perturb #AI