Aslında Perturb’un yaklaşımının, insanlar genellikle savunduğu “decentralize AI” nedenleri için değil, daha mantıklı olduğunu düşünüyorum. AI güvenliği, modeller daha yetenekli hale gelirken ve ajanlar insan denetimi azalırken çok daha büyük bir sorun haline geliyor. Ve burada @perturbaix’in yapısal bir avantajı var. Çoğu red teaming hâlâ dahili olarak veya statik açık kaynak araçlarla yapılıyor. Perturb, saldırgan saldırı keşfini sürekli, teşvikli bir yarışmaya dönüştürüyor ve bu bulguları doğrudan model eğitimi için kullanıyor. Sorun, saldırıları bulmakla bunları şirketlerin ödeme yapacağı bir şeye dönüştürmek arasında farklılık olması. Hatta madenciler güçlü saldırgan örnekler üretmeye devam etse bile, gerçek soru, işletmelerin sonuçta elde edilen puanları, veri kümelerini ve sertifikaları yeterince güvenilir bulup bunlara dayalı harekete geçip geçmeyecekleri. Sürekli tarama + sertleştirme ile gerçek bir ürün haline gelmek, onlara bu dağıtım katmanı üzerinde daha fazla kontrol sağlayabilir. Ayrıca alt ağıın olgunlaştığını görüyoruz (tarama + eğitim canlı, ürün aşaması başlıyor). Ancak alt ağ aktivitesini, ticari modelin çalıştığını kanıtlayacak bir şey olarak yanlış anlamayın. Saf araştırma modundan çıkarak Perturb, artık emisyonlara değil, talep ve gelir yaratma yeteneğini kanıtlamak zorunda. Benim görüşüm şudur: Sürekli, dışsal saldırgan baskı, önümüzdeki birkaç yıl içinde model performansı kadar önemli hale gelebilir. Eğer Perturb, çıktıların çoğunlukla alt ağa sınırlı kalmasını engelleyerek bunu bir ürüne dönüştürebilirse, bu yön doğrudur. Aksi takdirde, altyapı yerine ilginç bir araştırma ağı olarak kalma riski taşır. SN26 bu seviyelerde her durumda ilginç. #Bittensor $TAO #Perturb #AI