🚀 Subquadratic ayos ang FlashAttention-2 sa bilis 📈 Ipinakita ng Appen na ang kanilang kernel na Sparse Self-Attention ay nakakamit ng 381 ms sa 1 milyong tokens. Ang FlashAttention-2 ay nagsasagawa ng 21,4 segundo. Pagsabog ng FLOPs ng 62,8×. Nakakapagpanatili ng mataas na kalidad at pagkuha ng resulta. Isang revolusyon sa efisiyensiya ng AI ay posibleng mangyari.
Ang content na ito ay para sa mga layuning pang-impormasyon at pang-edukasyon lang. Maaaring may mga kasama itong third-party insight, sponsored content, o promotional material kung saan maaaring maka-receive ng compensation ang creator. Wala sa feed na ito ang nagko-constitute ng investment advice o nagga-guarantee ng returns. Ikaw lang ang responsible para sa mga sarili mong desisyon sa investment. Laging magsagawa ng sarili mong research at mag-ingat bago mag-trade. Hindi namin gina-guarantee ang accuracy ng impormasyon na mula sa third-party at hindi kami mananagot para sa anumang loss na na-incur. Ang nakaraang performance ay hindi indicative ng mga resulta sa hinaharap. Sumangguni sa aming Mga Tuntunin ng Community at Pahayag sa Disclosure ng Risk para sa mga detalye.
I-post ang reply mo