Посты
avatar

🚀 Subquadratic превосходит FlashAttention-2 по скорости 📈 Отчет Appen показывает, что его ядро Sparse Self-Attention достигает 381 мс на 1 миллион токенов. FlashAttention-2 требует 21,4 секунды. Снижение FLOPs в 62,8 раза. Сохраняет высокое качество и точность восстановления. Революция в эффективности ИИ возможна.

Этот контент предназначен исключительно для информационных и образовательных целей. Он может содержать информацию от третьих лиц, спонсорский контент или рекламные материалы, за которые креатор может получить вознаграждение. Ничто в этой ленте не является инвестиционным советом или гарантией прибыли. Вы несете полную ответственность за свои собственные инвестиционные решения. Всегда проводите самостоятельные исследования и проявляйте осторожность перед торговлей. Мы не гарантируем точность информации третьих лиц и не несем ответственности за понесенные убытки. Прошлые результаты не являются показателем будущих. Пожалуйста, ознакомьтесь с нашими Условиями сообщества и Заявлением о раскрытии информации о рисках для получения подробной информации.

avatarОставьте свой ответ

Комментарий