⚡ NVIDIA ускоряет инференс Ling-3.0-flash на DGX Spark на 42,5% Скорость на GSM8K выросла с 37,81 до 53,89 токенов в секунду. Были объединены ядра Humming, головка LM в FP8 и спекулятивное декодирование. Точность изменилась с 96,89% на 96,82%; разница описана как статистически незаметная.
Этот контент предназначен исключительно для информационных и образовательных целей. Он может содержать информацию от третьих лиц, спонсорский контент или рекламные материалы, за которые креатор может получить вознаграждение. Ничто в этой ленте не является инвестиционным советом или гарантией прибыли. Вы несете полную ответственность за свои собственные инвестиционные решения. Всегда проводите самостоятельные исследования и проявляйте осторожность перед торговлей. Мы не гарантируем точность информации третьих лиц и не несем ответственности за понесенные убытки. Прошлые результаты не являются показателем будущих. Пожалуйста, ознакомьтесь с нашими Условиями сообщества и Заявлением о раскрытии информации о рисках для получения подробной информации.
Оставьте свой ответ