ChainThink mensagem, 16 de março: segundo informações oficiais, a sub-rede Bittensor Templar (SN3) concluiu, em 10 de março, o maior pré-treinamento descentralizado de LLM da história, o Covenant-72B.
Segundo relatos, o Covenant-72B é um modelo linguístico com 72 bilhões de parâmetros, pré-treinado pela equipe Templar na sub-rede 3 do Bittensor, totalmente baseado na internet geral, sem necessidade de data centers centralizados. O modelo obteve 67,1 pontos no teste MMLU (zero-shot), superando modelos base line centralizados como LLaMA-2-70B e LLM360 K2 nas mesmas condições de avaliação. É o maior modelo colaborativo de linguagem totalmente sem permissão até o momento, com mais de 70 nós diferentes contribuindo com recursos de computação durante toda a sua operação. A equipe já liberou todos os pesos e checkpoints sob a licença Apache.
Possivelmente influenciado por essa notícia, o Bittensor (TAO) e seus tokens de sub-rede tiveram alta geral; o TAO subiu 54,8% nas últimas duas semanas. O token de sub-rede τemplar registrou alta de 194% nos últimos 7 dias, cotado atualmente a US$ 19,3.