За даними Beating Monitoring, Ant Bailing (inclusionAI) офіційно відкрив ваги Ling-3.0-flash, надаючи як оригінал BF16, так і квантовану версію FP8. Обидві версії використовують ліцензію MIT і вже доступні на Hugging Face та ModelScope, їх можна розгорнути за допомогою SGLang або vLLM. Вага BF16 становить близько 255 ГБ, версія FP8 — близько 128 ГБ, що майже вдвічі менше. FP8 зберігає параметри з меншою точністю, що знижує вимоги до сховища та відеопам’яті. У чотирьох тестах, перелічених офіційно, максимальна різниця між FP8 та BF16 становить 1,57 бала. Загальна кількість параметрів Ling-3.0-flash — 124 мільярди, під час кожного генерування активується лише 5,1 мільярда. Модель підтримує контекст до 256 000 токенів і зосереджена на завданнях агента, таких як програмування, пошук, глибоке дослідження та виклик інструментів. Офіційні тести показують, що вона досягає або перевищує результати попередньої моделі Ring-2.6-1T з трильйоном параметрів у більшості стандартних тестів.
Ant Group відкрила код моделі Ling-3.0-Flash з 124 мільярдами параметрів
MarsBitПоділитися
Короткий зміст
Ant Group відкрила код моделі Ling-3.0-flash за ліцензією MIT, що сприяє зростанню інтересу серед розробників. Модель доступна у версіях BF16 (255 ГБ) та FP8 (128 ГБ), де остання зменшує вимоги до пам’яті. Вона має загальну кількість параметрів 124 млрд, але використовує лише 5,1 млрд на одну генерацію. Модель підтримує контекст до 256 000 токенів і відмінно впорується з програмуванням та викликом інструментів. Версія FP8 показує максимальну різницю у 1,57 бала у чотирьох тестах порівняно з BF16. Дані індексу страху та жадібності свідчать про зростаючий оптимізм щодо досягнень у галузі ШІ.
Джерело:Показати оригінал
Відмова від відповідальності: Інформація на цій сторінці може бути отримана від третіх осіб і не обов'язково відображає погляди або думки KuCoin. Цей контент надається лише для загального інформування, без будь-яких запевнень або гарантій, а також не може розглядатися як фінансова або інвестиційна порада. KuCoin не несе відповідальності за будь-які помилки або упущення, а також за будь-які результати, отримані в результаті використання цієї інформації.
Інвестиції в цифрові активи можуть бути ризикованими. Будь ласка, ретельно оцініть ризики продукту та свою толерантність до ризику, виходячи з ваших власних фінансових обставин. Для отримання додаткової інформації, будь ласка, зверніться до наших Умов використання та Розкриття інформації про ризики.