Новини ME: 13 липня (UTC+8) дослідницький консорціум, координований Німецькою асоціацією ШІ, випустив відкриту велику мовну модель Soofi S 30B-A3B. Загальна кількість параметрів моделі становить 31,6 мільярда, при цьому для кожного токена активується лише приблизно 3,2 мільярда параметрів. Модель використовує архітектуру MoE зі змішуванням Mamba-2 та стандартних увагових шарів. Модель повністю навчалася на хмарі Industrial AI Cloud компанії Deutsche Telekom у Мюнхені, при цьому частка німецької мови в навчальних даних зросла з 7,2% на першому етапі до 15,3% на другому. У тестах Soofi S показала найвищий загальний бал серед усіх повністю відкритих моделей для англійської та німецької мов, перевершивши OLMo 3 32B та Apertus 70B. Результат на HumanEval — 73,8%, на MBPP — 70,2, на німецькій версії MBPP — 84,2. Довжина контекстного вікна підтримує до 1 мільйона токенів, а при довжині 40 000 токенів швидкість генерації становить приблизно в 8 разів більше, ніж у аналогічних щільних моделей. Ваги моделі вже відкрито. 🔗 Прочитати оригінал: https://the-decoder.com/german-ai-consortium-releases-soofi-s-an-open-30b-model-that-tops-benchmarks-in-both-english-and-german via AI HOT · https://aihot.virxact.com/items/cmrj6actv0651bilkm5pfz6ub (джерело: AiHot)
Німецький консорціум з штучним інтелектом запускає Soofi S 30B-A3B, який перевершує результати на англійських і німецьких тестах
KuCoinFlashПоділитися
Короткий зміст
Німецький консорціум з штучного інтелекту представив Soofi S 30B-A3B 13 липня (UTC+8) — відкриту модель з 31,6 мільярдом параметрів. Створена на основі архітектури MoE, вона поєднує шари Mamba-2 та уваги, активуючи 3,2 мільярда параметрів на токен. Навчена на німецькому хмарному інфраструктурі для ШІ, частка німецьких даних у моделі зросла до 15,3%. Вона перевершила OLMo 3 32B та Apertus 70B за результатами англійських та німецьких тестів. На HumanEval вона набрала 73,8%, на MBPP — 70,2%, а на німецькому MBPP — 84,2%. З контекстним вікном у 1 мільйон токенів вона обробляє 40 000 токенів з пропускною здатністю у 8 разів. Ваги моделі відкрито опубліковані. Цей оновлений новинний матеріал про ШІ та криптовалюту підкреслює важливий розвиток у сфері on-chain новин.
Джерело:Показати оригінал
Відмова від відповідальності: Інформація на цій сторінці може бути отримана від третіх осіб і не обов'язково відображає погляди або думки KuCoin. Цей контент надається лише для загального інформування, без будь-яких запевнень або гарантій, а також не може розглядатися як фінансова або інвестиційна порада. KuCoin не несе відповідальності за будь-які помилки або упущення, а також за будь-які результати, отримані в результаті використання цієї інформації.
Інвестиції в цифрові активи можуть бути ризикованими. Будь ласка, ретельно оцініть ризики продукту та свою толерантність до ризику, виходячи з ваших власних фінансових обставин. Для отримання додаткової інформації, будь ласка, зверніться до наших Умов використання та Розкриття інформації про ризики.