ChainThink thông báo, ngày 16 tháng 3, theo tin chính thức, subnet Bittensor Templar (SN3) đã hoàn thành quá trình tiền huấn luyện phân tán lớn nhất từ trước đến nay cho mô hình LLM Covenant-72B vào ngày 10 tháng 3.
The Covenant-72B is a language model with 72 billion parameters, pre-trained by the Templar team on Bittensor Subnet 3, entirely based on the general internet without requiring centralized data centers. The model achieved a score of 67.1 on the MMLU (zero-shot) benchmark, outperforming centralized baseline models such as LLaMA-2-70B and LLM360 K2 under the same evaluation conditions. It is the largest fully permissionless, collaborative language model to date, with over 70 distinct nodes contributing computational resources throughout its operation. The team has released all weights and checkpoints under the Apache License.
Do ảnh hưởng của tin tức này, Bittensor (TAO) và các token mạng con đều tăng giá, TAO tăng 54,8% trong hai tuần qua. Token mạng con τemplar tăng 194% trong 7 ngày qua, hiện giao dịch ở mức 19,3 USD.