➥ A segurança por IA está entrando na próxima fase, e @perturbaix é um projeto que estou acompanhando. Até agora, os testes adversariais tinham como foco principal encontrar ataques com equipes internas ou ferramentas de código aberto. Mas o Perturb está abordando algo mais interessante: endurecimento contínuo e incentivado. ▸ Mineiros globais competem para encontrar exemplos adversariais reais ▸ Ataques verificados são usados para treinar modelos, não apenas para relatórios ▸ Pontuações de robustez e conjuntos de dados que as empresas podem utilizar ▸ Passando da atividade da subnet para um produto real Essa é a transição do red teaming pontual → pressão externa contínua que acho que a IA em produção precisa. Atualmente, estou observando como o lançamento do produto deles está se desenvolvendo e se equipes fora da subnet realmente utilizam os resultados. #TAO #SN26 #Perturb