➥ AI güvenliği bir sonraki aşamaya giriyor ve @perturbaix, dikkatimi çeken projelerden biri. Şimdiye kadar, saldırgan testler genellikle dahili ekiplerle veya açık kaynak araçlarla saldırılar bulmaya odaklanmıştı. Ancak Perturb, daha ilginç bir şeyi ele alıyor: sürekli, teşvik edilen güçlendirme. ▸ Küresel madenciler, gerçek saldırgan örnekleri bulmak için yarışıyor ▸ Doğrulanmış saldırılar, sadece raporlar için değil, model eğitimi için kullanılıyor ▸ Güçlülük puanları ve şirketlerin harekete geçebileceği veri kümeleri ▸ Alt ağı aktivitesinden gerçek bir ürüne geçiş Bu, tek seferlik kırmızı takım testlerinden → üretim AI'nın ihtiyaç duyduğu sürekli dış baskıya geçiş. Şu anda ürün lanzmanlarının nasıl geliştiğini ve alt ağı dışındaki ekiplerin çıktıları gerçekten kullanıp kullanmadığını izliyorum. #TAO #SN26 #Perturb