Согласно данным Beating Monitoring, Ant Bailing (inclusionAI) официально открыла веса Ling-3.0-flash, предложив как оригинальную версию BF16, так и квантованную версию FP8. Обе версии распространяются под лицензией MIT и уже доступны на Hugging Face и ModelScope, их можно развернуть самостоятельно с помощью SGLang или vLLM. Вес версии BF16 составляет около 255 ГБ, версии FP8 — около 128 ГБ, что почти вдвое меньше. FP8 сохраняет параметры с меньшей точностью, снижая требования к хранилищу и видеопамяти. В четырех тестах, перечисленных официально, максимальная разница между FP8 и BF16 составила 1,57 балла. Общее количество параметров Ling-3.0-flash — 124 миллиарда, при каждом генерировании активируется только 5,1 миллиарда. Модель поддерживает контекст до 256 000 токенов и ориентирована в основном на задачи агентов, такие как программирование, поиск, глубокие исследования и вызов инструментов. Официальные оценки показывают, что она достигает или превосходит предыдущую модель Ring-2.6-1T с триллионом параметров по большинству стандартных тестов.
Ant Group открывает исходный код модели Ling-3.0-Flash с 124 млрд параметров
MarsBitПоделиться
Сводка
Ant Group's inclusionAI открыла исходный код модели Ling-3.0-flash под лицензией MIT, что вызвало рост интереса среди разработчиков. Модель доступна в версиях BF16 (255 ГБ) и FP8 (128 ГБ), причем последняя снижает требования к памяти. Общее количество параметров модели составляет 124 млрд, но при генерации используется только 5,1 млрд. Модель поддерживает контекст до 256 000 токенов и демонстрирует отличные результаты в программировании и вызове инструментов. Версия FP8 показала максимальное различие в 1,57 балла по четырем тестам по сравнению с BF16. Данные индекса страха и жадности указывают на растущий оптимизм в связи с достижениями в области ИИ.
Источник:Показать оригинал
Отказ от ответственности: Информация на этой странице может быть получена от третьих лиц и не обязательно отражает взгляды или мнения KuCoin. Данный контент предоставляется исключительно в общих информационных целях, без каких-либо заверений или гарантий, а также не может быть истолкован как финансовый или инвестиционный совет. KuCoin не несет ответственности за ошибки или упущения, а также за любые результаты, полученные в результате использования этой информации.
Инвестиции в цифровые активы могут быть рискованными. Пожалуйста, тщательно оценивайте риски, связанные с продуктом, и свою устойчивость к риску, исходя из собственных финансовых обстоятельств. Для получения более подробной информации, пожалуйста, ознакомьтесь с нашими Условиями использования и Уведомлением о риске.