➥ Keselamatan AI memasuki fasa seterusnya, dan @perturbaix adalah satu projek yang saya perhatikan. Sehingga kini, pengujian adversarial terutamanya berfokus pada mencari serangan dengan pasukan dalaman atau alat sumber terbuka. Namun, Perturb menangani perkara yang lebih menarik: penguatan berterusan yang diinsentifkan. ▸ Penambang global bersaing untuk mencari contoh adversarial sebenar ▸ Serangan yang disahkan digunakan untuk latihan model, bukan hanya laporan ▸ Skor ketahanan dan set data yang boleh ditindaklanjuti oleh syarikat ▸ Berpindah daripada aktiviti subnet ke produk sebenar Ini adalah peralihan daripada red teaming sekali sahaja → tekanan luaran berterusan yang saya rasa AI pengeluaran perlukan. Saya sedang memantau bagaimana pelancaran produk mereka berkembang dan sama ada pasukan di luar subnet sebenarnya menggunakan output tersebut. #TAO #SN26 #Perturb