Một công ty nghiên cứu AGI có trụ sở tại Singapore tên Sapient Intelligence đã phát hành đầy đủ trọng số, mã tiền huấn luyện và đường ống dữ liệu cho HRM-Text, một mô hình ngôn ngữ được xây dựng trên kiến trúc mà họ gọi là Hierarchical Reasoning Model. Toàn bộ gói này có sẵn dưới giấy phép Apache 2.0 trên Hugging Face và GitHub, nghĩa là bất kỳ ai cũng có thể sử dụng, sửa đổi hoặc phát triển thương mại dựa trên nó.
Điểm nổi bật không chỉ là hành động mã nguồn mở. Mà còn là kinh tế học. HRM-Text, với khoảng 1 tỷ tham số, đã được tiền huấn luyện trên khoảng 40 tỷ token và tốn ước tính từ 1.000 đến 1.500 đô la trên phần cứng khiêm tốn. Để so sánh, các mô hình tiên tiến từ các phòng thí nghiệm lớn thường được huấn luyện trên hàng nghìn tỷ token với ngân sách tính toán lên tới hàng chục hoặc hàng trăm triệu đô la.
Nó hoạt động thực tế như thế nào
Mô hình sử dụng kiến trúc lặp lại ẩn phân cấp mà công ty mô tả. Module cấp cao xử lý suy luận chậm và trừu tượng, lặp qua 2 “H-cycle” mỗi lần thực hiện. Module cấp thấp xử lý xử lý nhanh và chi tiết, chạy từ 3 đến 6 “L-cycle” mỗi lần thực hiện. Cùng nhau, các module này cho phép mô hình lặp lại suy luận của chính nó nhiều lần trước khi tạo đầu ra, đồng thời giữ nguyên số lượng tham số.
Thay vì tạo ra các token chuỗi suy luận hiển thị làm tiêu tốn không gian ngữ cảnh và chi phí suy luận, HRM-Text thực hiện quá trình suy luận lặp lại bên trong. Quá trình lập luận diễn ra trong các trạng thái ẩn của mô hình, không phải trong văn bản đầu ra.
Hiệu suất chuẩn vượt trội
Các đánh giá độc lập được thực hiện vào tháng 4 năm 2026 cho thấy kết quả bằng con số. HRM-Text đạt 56,2% trên bộ dữ liệu MATH, 82,2% trên DROP, 81,9% trên ARC-Challenge và 60,7% trên MMLU. Việc tiền huấn luyện được báo cáo là hoàn thành trong khoảng một ngày.
HRM-Text được xây dựng dựa trên công trình trước đó của Sapient. Mô hình HRM ban đầu, được mở nguồn vào tháng 7 năm 2025, chỉ có 27 triệu tham số và cho thấy hiệu suất mạnh mẽ trên các nhiệm vụ suy luận phức tạp với chỉ khoảng 1.000 ví dụ huấn luyện. HRM-Text đại diện cho sự tăng quy mô khoảng 37 lần về số tham số, đồng thời duy trì cùng triết lý kiến trúc.
Sapient đã thiết lập một kênh Discord dành cho các nhà phát triển quan tâm đến việc tìm hiểu kiến trúc. Giấy phép Apache 2.0 loại bỏ các rào cản pháp lý. Chi phí đào tạo $1.500 loại bỏ phần lớn rào cản tài chính.