➥ Ang AI security ay papasok sa susunod na yugto, at ang @perturbaix ay isa sa mga proyekto na sinusubaybayan ko. Hanggang sa ngayon, ang adversarial testing ay pangunahin tungkol sa paghahanap ng mga pag-atake gamit ang mga loob na team o open-source tools. Ngunit ang Perturb ay tumutugon sa isang mas interesanteng bagay: tuloy-tuloy at may insentibo na pagpapalakas. ▸ Mga global na miner ay kumikita upang hanapin ang mga totoong adversarial examples ▸ Ang mga napatunayang pag-atake ay ginagamit para sa pagtuturo ng model, hindi lang para sa mga ulat ▸ Mga score ng robustness at dataset na maaaring gamitin ng mga kumpanya ▸ Paglipat mula sa subnet activity patungo sa isang totoong produkto Ito ang pagbabago mula sa one-time red teaming → tuloy-tuloy na panlabas na presyon na kailangan ng production AI. Kasalukuyang sinusubaybayan ko kung paano umuunlad ang kanilang product launch at kung gagamitin ba talaga ng mga team labas sa subnet ang output. #TAO #SN26 #Perturb