總部位於新加坡的 AGI 研究公司 Sapient Intelligence 已釋出 HRM-Text 的完整權重、預訓練代碼和數據管道,HRM-Text 是一款基於其稱為層次推理模型(Hierarchical Reasoning Model)架構的語言模型。整個套件已在 Hugging Face 和 GitHub 上以 Apache 2.0 許可證發布,意味著任何人皆可商業性地使用、修改或在此基礎上進行開發。
值得注意的不僅是開源的舉動,更是其經濟效益。HRM-Text 擁有約 10 億個參數,於約 400 億個詞元上進行預訓練,僅在普通硬體上的成本估計為 1,000 至 1,500 美元。作為對比,主要實驗室的前沿模型通常需在數萬億詞元上進行訓練,計算預算高達數千萬至數億美元。
它是如何實際運作的
該模型採用公司所描述的層次化潛在循環架構。高階模組負責慢速、抽象的推理,每次運行循環 2 次「H-循環」。低階模組負責快速、詳細的處理,每次運行 3 至 6 次「L-循環」。這兩個模組共同使模型能在不改變參數數量的情況下,多次迭代自身的推理過程後才產生輸出。
HRM-Text 在模型的隱藏狀態中進行迭代思考,而非生成佔用上下文窗口和推理成本的可見鏈式思維標記。
超越基準的表現
2026 年 4 月進行的獨立評估以數字呈現了結果:HRM-Text 在 MATH 基準上得分为 56.2%,在 DROP 上得分为 82.2%,在 ARC-Challenge 上得分为 81.9%,在 MMLU 上得分为 60.7%。據報導,預訓練約在一天內完成。
HRM-Text 基於 Sapient 早期的工作。原始的 HRM 模型於 2025 年 7 月開源,僅有 27 百萬個參數,但在複雜推理任務中,僅用 1,000 個訓練樣本就展現出優異表現。HRM-Text 將參數規模擴大了約 37 倍,同時保持了相同的架構理念。
Sapient 已為對探索架構感興趣的開發者設立了 Discord 頻道。Apache 2.0 許可證消除了法律障礙。$1,500 的培訓費用消除了大部分財務障礙。
