預訓練 12 天就能跑完,Beam 的強化學習卻用了 10,500 張 GB300 燒滿四周 Reflection AI @reflection_ai 聯合創始人兼 CEO Misha Laskin 拆解了開放模型 Beam 的訓練賬。這家公司由兩位前 Google DeepMind 研究者於 2026 年前創立,今年 4 月以 250 億美元投前估值完成新一輪融資。Beam 總參數 501B、激活參數 23B,預訓練消耗 23.8 兆 token,權重已於 10 月 16 日以 Apache 2.0 許可開放。 兩個階段的算力分配呈倒掛。預訓練運行在 6,144 張 GB300 NVL72 上,按他的說法,以現有基礎設施約 12 天即可完成。RL 階段使用了 10,500 張同型晶片、連續四周,折算約 4 萬 GB300 周,是預訓練那輪約 1 萬 GB300 周的四倍,所耗 FLOPs 反而更多。


