Odaily Planet Daily melaporkan bahwa Marvell Technology mengumumkan peluncuran portofolio solusi memori generasi baru untuk infrastruktur AI, mencakup penyimpanan AI tingkat server, ekspansi dan penggabungan memori CXL tingkat rak, serta memori berbagi berbasis serat optik antar rak, yang bertujuan untuk mengatasi bottleneck kapasitas dan bandwidth yang terus meningkat dalam proses inferensi Agentic AI.
Marvell menyatakan bahwa seiring dengan membesarnya model AI, memanjangnya jendela konteks, dan meningkatnya kebutuhan KV Cache, arsitektur tradisional yang menggabungkan erat komputasi dan memori sedang membatasi efisiensi inferensi AI. Dengan pemisahan memori (memory disaggregation), sumber daya memori dapat diperluas secara independen dari sumber daya komputasi, meningkatkan pemanfaatan GPU dan mengurangi latensi perpindahan data. Produk yang diluncurkan kali ini meliputi:
Bravera SC6 PCIe 6.0 SSD controller: Dirancang untuk skenario penyimpanan AI inference, membantu penyedia cloud memindahkan lebih banyak KV Cache ke SSD berkinerja tinggi, meningkatkan efisiensi infrastruktur. Produk ini menggunakan arsitektur yang kompatibel dengan NAND dari berbagai pemasok, dan diharapkan mulai dikirimkan sampel pada kuartal keempat 2026.
Solusi ekspansi memori Marvell Structera X: Berbasis teknologi CXL, mendukung ekspansi memori tingkat rak dan pooling sumber daya, membantu pusat data berbagi dan mengalokasikan sumber daya memori dengan lebih fleksibel, serta menurunkan biaya infrastruktur AI.
Solusi memori interkoneksi fotonik Marvell: Membangun arsitektur memori bersama lintas beberapa kabinet melalui teknologi interkoneksi fotonik, mendukung pelepasan KV Cache hangat hingga 32 TB, serta membantu meningkatkan kapasitas throughput klaster inferensi AI.
Marvell menyatakan bahwa solusi Photonic Fabric dapat meningkatkan throughput Token hingga 2 hingga 3 kali lipat dalam batasan ruang dan konsumsi daya pusat data yang ada, mendukung model berskala lebih besar dan aplikasi AI dengan konteks lebih panjang.
Manajer Marvell, Will Chu, menyatakan bahwa infrastruktur AI sedang berpindah dari arsitektur server tunggal ke sistem di mana komputasi, memori, dan koneksi beroperasi secara sinergis, di masa depan memori perlu diperluas secara lebih independen untuk meningkatkan efisiensi sumber daya dan efisiensi Token.
Seiring dengan terus meningkatnya permintaan untuk AI Agent dan inferensi model besar, kapasitas memori, bandwidth, dan efisiensi transmisi data kini menjadi fokus baru dalam persaingan infrastruktur AI setelah kekuatan komputasi.