Marvell akan melancarkan penyelesaian memori dan penyimpanan infrastruktur AI

Pembuat semikonduktor infrastruktur data, Marvell Technology, mengumumkan akan melancarkan penyelesaian memori dan penyimpanan untuk infrastruktur AI pada 4 hingga 6 Ogos. Marvell menyatakan bahawa dengan meningkatnya skala inferens AI agen, kapasiti memori, bandwidth, dan kemampuan sambungan data kini menjadi sama pentingnya dengan keupayaan pengiraan. Model yang lebih besar, jendela konteks yang lebih panjang, serta permintaan KV Cache yang terus meningkat sedang mendorong permintaan sumber memori yang belum pernah terjadi sebelumnya dalam sistem AI. Perusahaan ini menyatakan bahawa teknologi memori dan penyimpanan AI-nya dapat membantu pelanggan meningkatkan penggunaan peranti keras, meningkatkan kecekapan pemprosesan Token, dan mencapai keseimbangan yang lebih baik antara prestasi, kuasa, dan kos dengan membawa data lebih dekat kepada unit pengiraan serta mengurangkan latensi. Seiring dengan terus membesarnya model AI, arsitektur tradisional “pengiraan chip utama” secara perlahan beralih kepada “pengoptimuman bersama pengiraan, memori, dan sambungan”, di mana infrastruktur baharu termasuk CXL, penyimpanan berkelajuan tinggi, dan sambungan optik dijangka menjadi arah teknologi penting dalam perluasan pusat data AI seterusnya.