Publicações
avatar

🚀 Subquadratic supera a FlashAttention-2 en velocidad 📈 Relatório da Appen revela que seu kernel Sparse Self-Attention alcança 381 ms em 1 milhão de tokens. FlashAttention-2 leva 21,4 segundos. Redução de 62,8× nos FLOPs. Mantém altos níveis de qualidade e recuperação. Uma revolução na eficiência da IA é possível.

Este conteúdo é apenas para fins informativos e educacionais. Ele pode incluir opiniões de terceiros, conteúdo patrocinado ou material promocional pelos quais o criador pode receber compensação. Nada neste feed constitui aconselhamento financeiro ou garantia de retorno. Você é o único responsável por suas próprias decisões de investimento. Sempre realize a sua própria pesquisa e aja com cautela antes de negociar. Não garantimos a precisão das informações de terceiros e não nos responsabilizamos por quaisquer perdas incorridas. Desempenho passado não é indicativo de resultados futuros. Consulte nossos Termos da Comunidade e a Declaração de Divulgação de Riscos para mais detalhes.

avatarPublique sua resposta

Comentar