source avatar0xMedia

Bagikan

Pre-training selesai dalam 12 hari, tetapi reinforcement learning Beam memakan waktu empat minggu penuh dengan 10.500 chip GB300. Misha Laskin, co-founder dan CEO Reflection AI @reflection_ai, mengungkap rincian biaya pelatihan model terbuka Beam. Perusahaan ini didirikan oleh dua mantan peneliti Google DeepMind sebelum tahun 2026, dan pada April tahun ini menutup putaran pendanaan baru dengan valuasi pre-money sebesar $25 miliar. Beam memiliki total parameter 501B dan aktif parameter 23B, dengan pre-training menghabiskan 23,8 triliun token; bobotnya telah dirilis secara terbuka di bawah lisensi Apache 2.0 pada 16 Oktober. Alokasi daya komputasi antar dua tahap justru terbalik. Pre-training berjalan di 6.144 chip GB300 NVL72, dan menurutnya, dengan infrastruktur saat ini bisa selesai dalam sekitar 12 hari. Tahap RL menggunakan 10.500 chip jenis yang sama secara terus-menerus selama empat minggu, setara dengan sekitar 40.000 GB300-week, empat kali lipat dari sekitar 10.000 GB300-week pada pre-training, dengan konsumsi FLOPs justru lebih tinggi.

No.0 picture
Penafian: Informasi pada halaman ini mungkin telah diperoleh dari pihak ketiga dan tidak mencerminkan pandangan atau opini KuCoin. Konten ini disediakan hanya untuk tujuan informasi umum, tanpa representasi atau jaminan apa pun, dan tidak dapat ditafsirkan sebagai saran keuangan atau investasi. KuCoin tidak bertanggung jawab terhadap segala kesalahan atau kelalaian, atau hasil apa pun yang keluar dari penggunaan informasi ini. Berinvestasi di aset digital dapat berisiko. Harap mengevaluasi risiko produk dan toleransi risiko Anda secara cermat berdasarkan situasi keuangan Anda sendiri. Untuk informasi lebih lanjut, silakan lihat Ketentuan Penggunaan dan Pengungkapan Risiko.