AMD e Apple exploram memória flash para substituir a DRAM em produtos de IA

Notícia da Mars Finance: em 16 de junho, a Citrini Research, instituição que publicou o "Relatório do Fim do AI", afirmou que a AMD e a Apple estão atualmente avançando simultaneamente com soluções para substituir o DRAM por memória flash em seus produtos de IA. A AMD adquiriu a MEXT para otimizar o flash, aproximando seu desempenho do DRAM e reduzindo assim os custos de memória em data centers de IA; já a Apple implementa otimizações semelhantes no dispositivo por meio da tecnologia "LLM in a flash". Segundo o mais recente relatório da Citrini, a alta demanda de memória para o cache KV na inferência de IA, combinada com a pressão da "taxa de memória", já que o HBM representa 25% da capacidade de produção de DRAM, torna a memória flash uma alternativa atrativa, pois seu custo é apenas 1/55 do DRAM. Através da otimização do controlador, empilhamento NAND e ajuste de padrões de células, é possível oferecer uma solução alternativa de capacidade e largura de banda para IA de borda. Esse relatório fornece suporte teórico para a recente alta contínua das ações de armazenamento, lideradas pela SanDisk.