Notícia ao vivo da IT之家 em 29 de outubro: durante a conferência de hoje, o CEO da XHEART Xin Xinghangtu, Li Zonglin, lançou oficialmente o novo chip de modelo grande X7 Ultra.

Segundo informações, este chip foi projetado especificamente para grandes modelos, possuindo uma arquitetura NPU de núcleo ultra-grande, com interação de dados dentro do núcleo aumentando a velocidade de interconexão em ordens de grandeza de TB/s em comparação com a interação entre núcleos. Além disso, a arquitetura de cache multinível do chip suporta alta capacidade e concorrência, reduzindo a latência e o consumo de energia durante a inferência.
O chip X7 Ultra da XinXin HangTu possui um motor de aceleração de operadores dedicado a modelos grandes de alta precisão, otimizado hardware para uma série de operadores-chave de modelos Transformer, como Layernorm, Softmax e Transpose, suportando nativamente cálculos vetoriais de alta precisão FP16/FP32 para garantir a precisão do modelo.

Por meio da inovação conjunta de arquitetura e cadeia de ferramentas, o X7 Ultra permite um aumento de 10 vezes na quantidade de parâmetros do modelo implantável, permitindo que modelos maiores operem de forma eficiente no veículo.
De acordo com os dados divulgados oficialmente pela XinXin HangTu, a paralelização de hardware do NPU do X7 Ultra pode liberar plenamente o potencial de inferência de grandes modelos, alcançando uma utilização computacional de 98,7%. Em comparação com os produtos de ponta da indústria, seu consumo de largura de banda de memória diminuiu 80% e sua eficiência energética aumentou 100%.
A IT之家, da cena do lançamento, informou que o X7 Ultra da XinXinghangtu é o primeiro CPU automotivo Armv9 a ser produzido em massa na China, com aumento de desempenho de 20% e eficiência energética de 10%. Além disso, a arquitetura de grande cluster melhorou a cooperação entre núcleos e o desempenho de acesso à memória L3, integrando um novo motor de processamento vetorial SVE2, que oferece desempenho DSP superior em comparação com o NEON da geração anterior.

