➥ La sécurité par IA entre dans une nouvelle phase, et @perturbaix est l’un des projets que je suis de près. Jusqu’à présent, les tests adversariaux se concentraient principalement sur la détection d’attaques via des équipes internes ou des outils open source. Mais Perturb aborde quelque chose de plus intéressant : un renforcement continu et incité. ▸ Des mineurs mondiaux rivalisent pour identifier des exemples adversariaux réels ▸ Les attaques vérifiées sont utilisées pour l’entraînement des modèles, et non seulement pour des rapports ▸ Des scores de robustesse et des jeux de données concrets que les entreprises peuvent exploiter ▸ Passage d’une activité de sous-réseau à un produit véritable Il s’agit du passage d’un test red teaming ponctuel à une pression externe continue, que je pense nécessaire pour les IA en production. Je surveille actuellement le déploiement de leur produit et si des équipes extérieures au sous-réseau utilisent effectivement les résultats. #TAO #SN26 #Perturb