Raksasa semikonduktor infrastruktur data, Marvell Technology, mengumumkan peluncuran rangkaian solusi memori generasi baru untuk infrastruktur AI, mencakup penyimpanan AI tingkat server, ekspansi dan penggabungan memori CXL tingkat rak, serta memori berbagi dengan interkoneksi optik antar rak, yang bertujuan untuk mengatasi bottleneck kapasitas dan bandwidth memori yang terus meningkat dalam proses inferensi Agentic AI. Marvell menyatakan bahwa seiring dengan membesarnya ukuran model AI, memanjangnya jendela konteks, dan meningkatnya kebutuhan KV Cache, arsitektur komputasi dan memori yang saling terikat erat kini membatasi efisiensi inferensi AI. Melalui pemisahan memori (memory disaggregation), sumber daya memori dapat diperluas secara independen dari sumber daya komputasi, meningkatkan pemanfaatan GPU dan mengurangi latensi perpindahan data.
Marvell Meluncurkan Solusi Memori Infrastruktur AI untuk Mengatasi Hambatan Inferensi AI Agens
TechFlowBagikan
Ringkasan
Marvell memperkenalkan solusi memori infrastruktur AI untuk mengatasi hambatan inferensi Agentic AI. Penawaran baru mencakup penyimpanan AI tingkat server, ekspansi memori CXL tingkat rak, dan memori bersama interkoneksi optik multi-kabinet. Seiring pertumbuhan model AI, pemisahan memori dan komputasi menjadi krusial. Disagregasi memori meningkatkan efisiensi GPU dan mengurangi latensi. Berita AI + kripto terus menonjolkan inovasi infrastruktur. Pencatatan token baru sering mengikuti kemajuan teknologi besar di bidang ini.
Sumber:Tampilkan versi asli
Penafian: Informasi pada halaman ini mungkin telah diperoleh dari pihak ketiga dan tidak mencerminkan pandangan atau opini KuCoin. Konten ini disediakan hanya untuk tujuan informasi umum, tanpa representasi atau jaminan apa pun, dan tidak dapat ditafsirkan sebagai saran keuangan atau investasi. KuCoin tidak bertanggung jawab terhadap segala kesalahan atau kelalaian, atau hasil apa pun yang keluar dari penggunaan informasi ini.
Berinvestasi di aset digital dapat berisiko. Harap mengevaluasi risiko produk dan toleransi risiko Anda secara cermat berdasarkan situasi keuangan Anda sendiri. Untuk informasi lebih lanjut, silakan lihat Ketentuan Penggunaan dan Pengungkapan Risiko.