source avatar0xMedia

Kongsi

Pre-training selesai dalam 12 hari, tetapi pembelajaran penguatan Beam menghabiskan 10.500 unit GB300 selama empat minggu penuh. Misha Laskin, co-founder dan CEO Reflection AI @reflection_ai, mengupas biaya pelatihan model terbuka Beam. Perusahaan ini didirikan oleh dua mantan peneliti Google DeepMind sebelum tahun 2026, dan pada bulan April tahun ini menyelesaikan putaran pendanaan baru dengan valuasi pra-investasi sebesar US$250 miliar. Beam memiliki total parameter 501B dan parameter aktif 23B, dengan pre-training menghabiskan 23,8 triliun token; bobotnya telah dirilis secara terbuka di bawah lisensi Apache 2.0 pada 16 Oktober. Alokasi daya komputasi antara dua tahap terbalik. Pre-training berjalan di atas 6.144 unit GB300 NVL72; menurutnya, dengan infrastruktur saat ini, proses ini dapat diselesaikan dalam sekitar 12 hari. Tahap RL menggunakan 10.500 chip jenis yang sama secara terus-menerus selama empat minggu, setara dengan sekitar 40.000 GB300-minggu—empat kali lipat dari sekitar 10.000 GB300-minggu pada pre-training, dan mengonsumsi FLOPs yang jauh lebih banyak.

No.0 picture
Penafian: Maklumat yang terdapat pada halaman ini mungkin telah diperoleh daripada pihak ketiga dan tidak semestinya menggambarkan pandangan atau pendapat KuCoin. Kandungan ini adalah disediakan bagi tujuan maklumat umum sahaja, tanpa sebarang perwakilan atau waranti dalam apa jua bentuk, dan juga tidak boleh ditafsirkan sebagai nasihat kewangan atau pelaburan. KuCoin tidak akan bertanggungjawab untuk sebarang kesilapan atau pengabaian, atau untuk sebarang akibat yang terhasil daripada penggunaan maklumat ini. Pelaburan dalam aset digital boleh membawa risiko. Sila menilai risiko produk dan toleransi risiko anda dengan teliti berdasarkan keadaan kewangan anda sendiri. Untuk maklumat lanjut, sila rujuk kepada Terma Penggunaan dan Pendedahan Risiko kami.