A gigante de semicondutores para infraestrutura de dados, Marvell Technology, anunciou o lançamento de uma nova gama de soluções de memória voltadas para infraestrutura de IA, abrangendo armazenamento de IA em nível de servidor, expansão e pooling de memória CXL em nível de rack e memória compartilhada por interconexão óptica entre múltiplos gabinetes, visando resolver os gargalos crescentes de capacidade e largura de banda de memória no processo de inferência de IA Agentic. A Marvell afirmou que, com o aumento do tamanho dos modelos de IA, a extensão das janelas de contexto e a crescente demanda por KV Cache, a arquitetura tradicional de computação e memória fortemente acoplada está limitando a eficiência da inferência de IA. Por meio da desagregação de memória (memory disaggregation), os recursos de memória podem ser expandidos de forma mais independente dos recursos de computação, aumentando a utilização da GPU e reduzindo a latência de movimentação de dados.
Marvell lança soluções de memória para infraestrutura de IA para enfrentar gargalos de inferência de IA agente
TechFlowCompartilhar
Resumo
A Marvell apresenta soluções de memória para infraestrutura de IA para resolver gargalos de inferência de IA agente. As novas ofertas incluem armazenamento de IA em nível de servidor, expansão de memória CXL em nível de rack e memória compartilhada com interconexão óptica entre gabinetes múltiplos. À medida que os modelos de IA crescem, a separação entre memória e computação torna-se crítica. A desagregação de memória aumenta a eficiência da GPU e reduz a latência. Notícias sobre IA + cripto continuam destacando inovações na infraestrutura. Novas listagens de tokens frequentemente seguem avanços tecnológicos importantes nesse espaço.
Fonte:Mostrar original
Aviso legal: as informações nesta página podem ter sido obtidas de terceiros e não refletem necessariamente os pontos de vista ou opiniões da KuCoin. Este conteúdo é fornecido apenas para fins informativos gerais, sem qualquer representação ou garantia de qualquer tipo, nem deve ser interpretado como aconselhamento financeiro ou de investimento. A KuCoin não é responsável por quaisquer erros ou omissões, ou por quaisquer resultados do uso destas informações.
Os investimentos em ativos digitais podem ser arriscados. Avalie cuidadosamente os riscos de um produto e a sua tolerância ao risco com base nas suas próprias circunstâncias financeiras. Para mais informações, consulte nossos termos de uso e divulgação de risco.