Marvell akan Meluncurkan Solusi Memori dan Penyimpanan Infrastruktur AI

Pabrikan semikonduktor infrastruktur data, Marvell Technology, mengumumkan akan meluncurkan solusi memori dan penyimpanan untuk infrastruktur AI pada 4 hingga 6 Agustus. Marvell menyatakan bahwa seiring dengan meningkatnya skala inferensi AI agen, kapasitas memori, bandwidth, dan kemampuan koneksi data kini menjadi sama pentingnya dengan daya komputasi. Model yang lebih besar, jendela konteks yang lebih panjang, serta permintaan KV Cache yang terus meningkat, mendorong kebutuhan sumber daya memori dalam sistem AI pada tingkat yang belum pernah terjadi sebelumnya. Perusahaan ini menyebut bahwa teknologi memori dan penyimpanan AI-nya dapat membantu pelanggan meningkatkan pemanfaatan perangkat keras, meningkatkan efisiensi pemrosesan Token, serta mencapai keseimbangan yang lebih optimal antara kinerja, konsumsi daya, dan biaya dengan mendekatkan data lebih dekat ke unit komputasi dan mengurangi latensi. Seiring dengan terus membesarnya ukuran model AI, arsitektur tradisional yang “mengutamakan chip komputasi” secara perlahan berubah menjadi “optimasi kolaboratif antara komputasi, memori, dan interkoneksi”. Infrastruktur baru seperti CXL, penyimpanan berkecepatan tinggi, dan interkoneksi optik berpotensi menjadi arah teknologi penting dalam ekspansi pusat data AI tahap berikutnya.