
🚀 Subquadratic supera a FlashAttention-2 en velocidad 📈 Relatório da Appen revela que seu kernel Sparse Self-Attention alcança 381 ms em 1 milhão de tokens. FlashAttention-2 leva 21,4 segundos. Redução de 62,8× nos FLOPs. Mantém altos níveis de qualidade e recuperação. Uma revolução na eficiência da IA é possível.
