Odaily Planet Daily News: Ipinahayag ni Marvell Technology ang isang bagong serye ng solusyon sa memorya para sa AI infrastructure, na kumakapal ng server-level AI storage, rack-level CXL memory extension at pooling, at multi-rack optical interconnect shared memory, na naglalayong lutasin ang pagtaas ng kapasidad at bandwidth bottleneck sa proseso ng Agentic AI inference.
Sinabi ni Marvell na habang lumalaki ang laki ng AI models, lumalawak ang context window, at tumataas ang pangangailangan sa KV Cache, ang tradisyonal na arkitekturang malapit na pinagsasama ang computation at memory ay nagiging hadlang sa efficiency ng AI inference. Sa pamamagitan ng memory disaggregation, mas maaaring palawakin nang independiyente ang memory resources kaysa sa compute resources, mapataas ang paggamit ng GPU at mapabawasan ang latency sa paggalaw ng data. Ang mga produkto na ipinakilala ay:
Bravera SC6 PCIe 6.0 SSD controller: Para sa mga senaryo ng AI inference storage, nakakatulong sa mga cloud service provider na i-move ang higit pang KV Cache sa high-performance SSD upang mapabuti ang efficiency ng infrastructure. Gumagamit ang produkto na ito ng arkitekturang kompatibol sa maraming supplier ng NAND, at inaasahang magiging available ang sample noong ikaapat na kwarter ng 2026.
Marvell Structera X Memory Expansion Solution: Batay sa teknolohiyang CXL, sumusuporta sa rack-level na pagpapalawak at pagpapool ng memorya, nakakatulong sa mga data center na mas flexible na i-share at i-allocate ang mga mapagkukunan ng memorya at mabawasan ang gastos sa AI infrastructure.
Marvell Photonic Fabric na Solusyon sa Optical Interconnect Memory: Nagtatayo ng arkitektura ng shared memory na nag-uugnay sa maraming cabinet gamit ang teknolohiya ng optical interconnect, na makakatulong sa pag-unload ng hanggang 32TB na warm KV Cache at pagpapabuti ng throughput ng AI inference cluster.
Sinabi ni Marvell na ang solusyon ng Photonic Fabric ay maaaring magbigay ng pagtaas ng 2 hanggang 3 beses sa token throughput sa ilalim ng mga limitasyon sa espasyo at paggamit ng enerhiya ng umiiral na data center, na nagpapahintulot sa mas malalaking modelo at mas mahabang konteksto ng AI applications.
Sinabi ni Will Chu, isang executive ng Marvell, na ang AI infrastructure ay naglalakbay mula sa isang-server architecture patungo sa mga sistema kung saan ang computing, memory, at connectivity ay gumagana nang sabay-sabay, at sa hinaharap, kailangan ng memory na mas independiyenteng ma-expand upang mapabuti ang paggamit ng resources at ang efficiency ng Token.
Samantalang tumataas ang pangangailangan sa AI Agent at pag-iisip ng malalaking modelo, ang kapasidad ng memorya, bandwidth, at efisyensiya ng pagpapadala ng data ay naging bagong sentro ng kompetisyon sa infrastraktura ng AI pagkatapos ng computing power.