ChainCatcher сообщает, что DeepSeek объявила о полном открытии исходного кода своей внутренней инференс-рамワーク DeepInfer и одновременно открыла производственный компонент кодирования/декодирования токенов deepseek-recipe. DeepInfer интегрирует высокопроизводительные операторы и глубоко оптимизированный инференс-движок, поддерживает распределённый инференс, предсказательное декодирование, SWA Bounded Replay и структурированный вывод, совместим с платформами NVIDIA и Huawei Ascend. DeepSeek отметила, что на основе DeepInfer уже реализованы высокопроизводительные и низколатентные масштабируемые сервисы инференса для DeepSeek V4.1 Flash, и все будущие коды инференса и оптимизации новых моделей будут обновляться в рамках этой платформы. deepseek-recipe полностью соответствует логике обработки официального API DeepSeek, обеспечивая сообществу идентичный опыт с официальными развертываниями. Репозитории с открытым исходным кодом и технические отчёты уже опубликованы.
DeepSeek открывает исходный код инференс-фреймворка DeepInfer, совместимого с Huawei Ascend
ChaincatcherПоделиться
Сводка
DeepSeek открыл исходный код своей инференс-системы DeepInfer и компонента кодека токенов deepseek-recipe, обеспечив поддержку новых листингов токенов. DeepInfer поддерживает распределённый инференс и совместим с Huawei Ascend и NVIDIA. Эта система обеспечивает работу DeepSeek V4.1 Flash с низкой задержкой. Deepseek-recipe согласован с логикой официального API для согласованного развертывания. Новости и обновления о запуске токенов будут следовать по мере продолжения оптимизаций. Репозиторий с открытым исходным кодом и технический отчёт уже доступны.
Источник:Показать оригинал
Отказ от ответственности: Информация на этой странице может быть получена от третьих лиц и не обязательно отражает взгляды или мнения KuCoin. Данный контент предоставляется исключительно в общих информационных целях, без каких-либо заверений или гарантий, а также не может быть истолкован как финансовый или инвестиционный совет. KuCoin не несет ответственности за ошибки или упущения, а также за любые результаты, полученные в результате использования этой информации.
Инвестиции в цифровые активы могут быть рискованными. Пожалуйста, тщательно оценивайте риски, связанные с продуктом, и свою устойчивость к риску, исходя из собственных финансовых обстоятельств. Для получения более подробной информации, пожалуйста, ознакомьтесь с нашими Условиями использования и Уведомлением о риске.