Модель Qwen 3.6 27B Dense достигает 40 ток/с на RTX 3090

iconKuCoinFlash
Поделиться
Share IconShare IconShare IconShare IconShare IconShare IconCopy
AI summary iconСводка

expand icon
Ончейн-новости от MetaEra показывают, что модель Qwen 3.6 27B Dense достигла 40 токенов в секунду на одном GPU RTX 3090 24 ГБ. Пользователь @sudoingX опубликовал результаты 24 апреля (UTC+8) с использованием квантизации Q4_K_M от llama.cpp. Не применялись никакие трюки или объединённые ядра. Также был разработан пользовательский бенчмарк на основе роя частиц. Криптовалютные новостные платформы внимательно отслеживают производительность.

Сообщение AIMPACT, 24 апреля (UTC+8), 2026 года: пользователь @sudoingX опубликовал предварительные результаты тестирования — модель Qwen 3.6 27B Dense прошла тест 10/10 со скоростью 40 tok/s на одной видеокарте RTX 3090 24 ГБ. Результат получен без использования методов квантования или фьюзионных ядер, только прямое квантование Q4_K_M через llama.cpp. Пользователь также разработал бенчмаркинг на основе роя частиц для оценки модели. (Источник: InFoQ)

Отказ от ответственности: Информация на этой странице может быть получена от третьих лиц и не обязательно отражает взгляды или мнения KuCoin. Данный контент предоставляется исключительно в общих информационных целях, без каких-либо заверений или гарантий, а также не может быть истолкован как финансовый или инвестиционный совет. KuCoin не несет ответственности за ошибки или упущения, а также за любые результаты, полученные в результате использования этой информации. Инвестиции в цифровые активы могут быть рискованными. Пожалуйста, тщательно оценивайте риски, связанные с продуктом, и свою устойчивость к риску, исходя из собственных финансовых обстоятельств. Для получения более подробной информации, пожалуйста, ознакомьтесь с нашими Условиями использования и Уведомлением о риске.