Mensaje de ChainThink, 16 de marzo: según el anuncio oficial, la subred de Bittensor Templar (SN3) completó el 10 de marzo el mayor preentrenamiento descentralizado de LLM hasta la fecha, Covenant-72B.
Se informa que Covenant-72B es un modelo de lenguaje con 72 mil millones de parámetros, preentrenado por el equipo Templar en la subred 3 de Bittensor, completamente basado en Internet general, sin necesidad de centros de datos centralizados. El modelo obtuvo una puntuación de 67.1 en la prueba MMLU (zero-shot), superando modelos base centralizados como LLaMA-2-70B y LLM360 K2 bajo las mismas condiciones de evaluación. Es el modelo colaborativo de lenguaje completamente sin permiso más grande hasta la fecha, durante cuyo funcionamiento más de 70 nodos diferentes contribuyeron con recursos de cómputo. El equipo ha publicado todos los pesos y puntos de control bajo la licencia Apache.
Posiblemente influenciado por este anuncio, Bittensor (TAO) y sus tokens de subred experimentaron un aumento generalizado; TAO ha subido un 54,8% en las últimas dos semanas. El token de subred τemplar ha aumentado un 194% en los últimos 7 días y se cotiza actualmente a 19,3 dólares.