Xiaohongshu abre el código de BigMac, un nuevo paradigma de entrenamiento de modelos multimodales grandes

iconKuCoinFlash
Compartir
AI summary iconResumen
Xiaohongshu abre el código de BigMac, un nuevo paradigma de entrenamiento multimodal construido sobre MetaEra. El modelo utiliza una tubería anidada segura en dependencias para combinar los cálculos del codificador y del generador en una tubería de LLM. Ofrece un aumento de velocidad de 1.08x a 1.9x en comparación con los métodos estándar, manteniendo la memoria de activaciones acotada. BigMac ahora admite el entrenamiento en producción para el modelo multimodal dots. El interés abierto en los indicadores técnicos continúa aumentando a medida que el modelo gana popularidad.

Noticias de ME: el 22 de julio (UTC+8), el equipo técnico de Xiaohongshu lanzó BigMac, un nuevo paradigma de canalización anidada segura para la capacitación de modelos multimodales grandes. Basado en una canalización LLM como eje principal, integra cálculos de codificadores y generadores sin alterar el orden de ejecución, logrando una aceleración de 1.08x a 1.9x en comparación con las implementaciones base, mientras mantiene la memoria activa acotada. BigMac ya se ha implementado en producción como componente central del entrenamiento del modelo multimodal dots. 🔗 Leer el artículo original: https://mp.weixin.qq.com/s/tNJARtn1jIayL5URg87Row vía AI HOT · https://aihot.virxact.com/items/cmrvx8ycy0240bipz0pkrvryq (fuente: AiHot)

Descargo de responsabilidad: La información contenida en esta página puede proceder de terceros y no refleja necesariamente los puntos de vista u opiniones de KuCoin. Este contenido se proporciona solo con fines informativos generales, sin ninguna representación o garantía de ningún tipo, y tampoco debe interpretarse como asesoramiento financiero o de inversión. KuCoin no es responsable de ningún error u omisión, ni de ningún resultado derivado del uso de esta información. Las inversiones en activos digitales pueden ser arriesgadas. Evalúa con cuidado los riesgos de un producto y tu tolerancia al riesgo en función de tus propias circunstancias financieras. Para más información, consulta nuestras Condiciones de uso y la Declaración de riesgos.