Raksasa semikonduktor infrastruktur data, Marvell Technology, mengumumkan pelancaran kombinasi penyelesaian memori generasi baru yang ditujukan untuk infrastruktur AI, mencakup penyimpanan AI peringkat pelayan, ekspansi dan penggabungan memori CXL peringkat rak, serta memori bersama yang dihubungkan secara optik antar rak, bertujuan untuk mengatasi kebuntuan kapasiti dan bandwidth memori yang semakin meningkat dalam proses inferensi Agentic AI. Marvell menyatakan bahawa dengan meningkatnya saiz model AI, panjangnya jendela konteks, dan pertumbuhan permintaan KV Cache, arsitektur tradisional yang terikat rapat antara pengiraan dan memori kini menghambat kecekapan inferensi AI. Melalui pemisahan memori (memory disaggregation), sumber memori boleh diperluaskan secara bebas daripada sumber pengiraan, meningkatkan penggunaan GPU dan mengurangkan latensi pergerakan data.
Marvell melancarkan penyelesaian memori infrastruktur AI untuk mengatasi bottleneck inferens AI agen
TechFlowKongsi
Ringkasan
Marvell memperkenalkan penyelesaian memori infrastruktur AI untuk mengatasi bottleneck inferens AI Agentic. Tawaran baharu termasuk penyimpanan AI peringkat pelayan, ekspansi memori CXL peringkat rak, dan memori berkongsi interkonek optik pelbagai kabinet. Semasa model AI bertumbuh, pemisahan memori dan pengiraan menjadi penting. Disagregasi memori meningkatkan kecekapan GPU dan mengurangkan latensi. Berita AI + kripto terus menonjolkan inovasi infrastruktur. Senarai token baharu sering mengikuti kemajuan teknologi utama di ruang ini.
Sumber:Tunjukkan artikel asal
Penafian: Maklumat yang terdapat pada halaman ini mungkin telah diperoleh daripada pihak ketiga dan tidak semestinya menggambarkan pandangan atau pendapat KuCoin. Kandungan ini adalah disediakan bagi tujuan maklumat umum sahaja, tanpa sebarang perwakilan atau waranti dalam apa jua bentuk, dan juga tidak boleh ditafsirkan sebagai nasihat kewangan atau pelaburan. KuCoin tidak akan bertanggungjawab untuk sebarang kesilapan atau pengabaian, atau untuk sebarang akibat yang terhasil daripada penggunaan maklumat ini.
Pelaburan dalam aset digital boleh membawa risiko. Sila menilai risiko produk dan toleransi risiko anda dengan teliti berdasarkan keadaan kewangan anda sendiri. Untuk maklumat lanjut, sila rujuk kepada Terma Penggunaan dan Pendedahan Risiko kami.