➥ La seguridad de la IA está entrando en la próxima fase, y @perturbaix es uno de los proyectos que estoy siguiendo. Hasta ahora, las pruebas adversarias se han centrado principalmente en encontrar ataques con equipos internos o herramientas de código abierto. Pero Perturb está abordando algo más interesante: un endurecimiento continuo e incentivado. ▸ Mineros globales compiten para encontrar ejemplos adversarios reales ▸ Los ataques verificados se utilizan para el entrenamiento del modelo, no solo para informes ▸ Puntuaciones de robustez y conjuntos de datos que las empresas pueden utilizar ▸ Pasar de la actividad de subred a un producto real Este es el cambio de pruebas de equipo rojo únicas → presión externa continua que, según yo, necesita la IA en producción. Actualmente estoy observando cómo se desarrolla su lanzamiento de producto y si los equipos fuera de la subred realmente utilizan los resultados. #TAO #SN26 #Perturb