Повідомлення AIMPACT, 5 травня (UTC+8): NVIDIA AI оголосила, що її фреймворк Megatron Core тепер надає повну підтримку для новітніх високопродуктивних оптимізаторів, таких як Muon, а також дослідницьких оптимізаторів, як MOP і REKLS, з метою підвищення ефективності навчання великих моделей. Офіційно зазначено, що ефективне навчання моделей розміром, як Kimi K2 та Qwen3 30B, вимагає підходів, що перевищують стандартні методи паралелізації даних. Поки що конкретні показники продуктивності та деталі реалізації не розголошуються. (Джерело: InFoQ)
NVIDIA Megatron Core додає підтримку Muon та інших оптимізаторів
KuCoinFlashПоділитися
Короткий зміст
NVIDIA оголосила про проект 5 травня (UTC+8), повідомивши, що її фреймворк Megatron Core тепер підтримує просунуті оптимізатори, такі як Muon, MOP і REKLS. Оновлення призначене для підвищення ефективності навчання великих моделей. NVIDIA зазначила, що стандартні методи паралелізації даних більше не достатні для моделей, таких як Kimi K2 і Qwen3 30B. Компанія не поділилася даними щодо продуктивності чи технічними деталями. Оголошення про проект відбувається на тлі постійного інтересу до того, як дані про інфляцію можуть вплинути на бюджети розробки ШІ.
Джерело:Показати оригінал
Відмова від відповідальності: Інформація на цій сторінці може бути отримана від третіх осіб і не обов'язково відображає погляди або думки KuCoin. Цей контент надається лише для загального інформування, без будь-яких запевнень або гарантій, а також не може розглядатися як фінансова або інвестиційна порада. KuCoin не несе відповідальності за будь-які помилки або упущення, а також за будь-які результати, отримані в результаті використання цієї інформації.
Інвестиції в цифрові активи можуть бути ризикованими. Будь ласка, ретельно оцініть ризики продукту та свою толерантність до ризику, виходячи з ваших власних фінансових обставин. Для отримання додаткової інформації, будь ласка, зверніться до наших Умов використання та Розкриття інформації про ризики.