NVIDIA Megatron Core добавляет поддержку Muon и других оптимизаторов

iconKuCoinFlash
Поделиться
Share IconShare IconShare IconShare IconShare IconShare IconCopy
AI summary iconСводка

expand icon
NVIDIA объявила о проекте 5 мая (UTC+8), сообщив, что её фреймворк Megatron Core теперь поддерживает продвинутые оптимизаторы, такие как Muon, MOP и REKLS. Обновление направлено на повышение эффективности обучения крупных моделей. NVIDIA заявила, что стандартные методы параллелизации данных больше не достаточны для моделей, таких как Kimi K2 и Qwen3 30B. Компания не предоставила данные о производительности или технические детали. Объявление о проекте поступило на фоне сохраняющегося интереса к тому, как данные об инфляции могут повлиять на бюджеты развития ИИ.

Сообщение AIMPACT, 5 мая (UTC+8): NVIDIA AI объявила, что её фреймворк Megatron Core теперь предоставляет полную поддержку таких новых продвинутых оптимизаторов, как Muon, а также исследовательских оптимизаторов, таких как MOP и REKLS, с целью повышения эффективности обучения крупномасштабных моделей. Официально отмечается, что для эффективного обучения моделей размером, как Kimi K2 и Qwen3 30B, требуются методы, выходящие за рамки стандартных техник параллелизации данных. Конкретные показатели производительности и детали реализации в настоящий момент не раскрываются. (Источник: InFoQ)

Отказ от ответственности: Информация на этой странице может быть получена от третьих лиц и не обязательно отражает взгляды или мнения KuCoin. Данный контент предоставляется исключительно в общих информационных целях, без каких-либо заверений или гарантий, а также не может быть истолкован как финансовый или инвестиционный совет. KuCoin не несет ответственности за ошибки или упущения, а также за любые результаты, полученные в результате использования этой информации. Инвестиции в цифровые активы могут быть рискованными. Пожалуйста, тщательно оценивайте риски, связанные с продуктом, и свою устойчивость к риску, исходя из собственных финансовых обстоятельств. Для получения более подробной информации, пожалуйста, ознакомьтесь с нашими Условиями использования и Уведомлением о риске.