Totoo naming naniniwala ako na ang paraan ni Perturb ay may kabuluhan, ngunit hindi dahil sa karaniwang “decentralized AI” na dahilan na madalas na binabanggit. Ang AI security ay naging mas malaking problema habang lumalaki ang kakayahan ng mga modelo at lumalawak ang paggamit ng mga agent nang walang sapat na pagmamasid mula sa tao. At dito nakikita ni @perturbaix ang kanyang structural advantage. Ang karamihan sa red teaming ay patuloy pa ring ginagawa sa loob ng kompanya o gamit ang mga static na open-source na tool. Ang Perturb ay nagpapalit ng paghahanap ng adversarial attack sa isang tuloy-tuloy at incentive-based na kompetisyon, at ginagamit ang mga natuklasang ito para sa aktwal na pagtuturo ng modelo. Ang problema ay ang paghahanap ng mga attack at pagpapalit nito sa isang bagay na handa ng mga kumpanya na bayaran ay dalawang magkakaibang bagay. Kahit pa man patuloy na maglalabas ng malakas na adversarial examples ang mga miner, ang tunay na tanong ay kung tatanggapin ba ng mga enterprise ang mga resultang score, dataset, at sertipiko bilang sapat na kredible upang mag-act. Ang paglipat sa isang tunay na produkto na may continuous scanning + hardening ay maaaring bigyan sila ng mas maraming kontrol sa distribution layer na ito. Kasalukuyan ding lumalago ang subnet (nagaganap na ang scanning + training, nagsisimula na ang product phase). Ngunit huwag mong iugnay ang aktibidad ng subnet bilang patunay na gumagana na ang commercial model. Ang paglalabas sa pure research mode ay nangangahulugan na kailangan ngayon ni Perturb na patunayan na kayang maglikha ng demand at kita nang hindi nakabatay lamang sa emissions. Ang aking pananaw ay ang tuloy-tuloy at panlabas na adversarial pressure ay maaaring maging magkasing-importansya sa performance ng modelo sa mga susunod na taon. Kung kayang productize ni Perturb ito nang hindi nananatiling pang-loob lamang sa subnet, tama ang direksyon. Kung hindi, baka manatili itong isang interesanteng research network kaysa infrastructure. Ang SN26 ay interesante kahit anong antas pa man. #Bittensor $TAO #Perturb #AI
