
🚀 Subquadratic supera a FlashAttention-2 en velocidad 📈 Informe de Appen revela que su kernel Sparse Self-Attention alcanza 381 ms en 1 millón de tokens. FlashAttention-2 tarda 21,4 segundos. Reducción de FLOPs de 62,8×. Mantiene resultados altos en calidad y recuperación. Una revolución en la eficiencia de la IA es posible.
