NVIDIA Megatron Core Menambahkan Dukungan untuk Muon dan Optimizer Lainnya

iconKuCoinFlash
Bagikan
Share IconShare IconShare IconShare IconShare IconShare IconCopy
AI summary iconRingkasan

expand icon
NVIDIA mengumumkan proyek pada 5 Mei (UTC+8), mengungkap bahwa kerangka Megatron Core kini mendukung optimizer canggih seperti Muon, MOP, dan REKLS. Pembaruan ini bertujuan untuk meningkatkan efisiensi pelatihan model besar. NVIDIA menyatakan metode paralel data standar sudah tidak lagi cukup untuk model seperti Kimi K2 dan Qwen3 30B. Perusahaan tidak membagikan data kinerja atau spesifikasi teknis. Pengumuman proyek ini muncul di tengah minat yang terus berlanjut terhadap bagaimana data inflasi dapat memengaruhi anggaran pengembangan AI.

Pesan AIMPACT, 5 Mei (UTC+8), NVIDIA AI mengumumkan bahwa kerangka Megatron Core kini menyediakan dukungan end-to-end untuk optimizer canggih baru seperti Muon serta optimizer penelitian seperti MOP dan REKLS, dengan tujuan meningkatkan efisiensi pelatihan model berskala besar. Pihak resmi menyatakan bahwa pelatihan efisien model berukuran seperti Kimi K2 dan Qwen3 30B memerlukan pendekatan di luar teknik data parallel standar. Saat ini, pesan ini belum mengungkapkan indikator kinerja atau detail implementasi spesifik. (Sumber: InFoQ)

Penafian: Informasi pada halaman ini mungkin telah diperoleh dari pihak ketiga dan tidak mencerminkan pandangan atau opini KuCoin. Konten ini disediakan hanya untuk tujuan informasi umum, tanpa representasi atau jaminan apa pun, dan tidak dapat ditafsirkan sebagai saran keuangan atau investasi. KuCoin tidak bertanggung jawab terhadap segala kesalahan atau kelalaian, atau hasil apa pun yang keluar dari penggunaan informasi ini. Berinvestasi di aset digital dapat berisiko. Harap mengevaluasi risiko produk dan toleransi risiko Anda secara cermat berdasarkan situasi keuangan Anda sendiri. Untuk informasi lebih lanjut, silakan lihat Ketentuan Penggunaan dan Pengungkapan Risiko.