Google Mendaur Ulang DDR4 dari Server yang Dihentikan untuk Mengatasi Kekurangan Memori

ChainCatcher melaporkan, Nikhil Cherian, Senior Director of Supply Chain Infrastructure Google, mengungkapkan bahwa untuk mengatasi bottleneck memori, Google sedang mengembangkan solusi perangkat lunak dan perangkat keras, serta mendaur ulang komponen DDR4 dari server yang sudah tidak digunakan untuk membangun rantai pasokan daur ulang internal. Google telah merancang adaptor perangkat keras khusus yang dapat menghubungkan DDR4 generasi sebelumnya ke server AI generasi baru, sekaligus mengimpor server bekas untuk melepas dan mendaur ulang modul DDR4-nya. Cherian menyatakan bahwa industri AI telah dengan cepat berpindah dari keterbatasan komputasi menjadi keterbatasan memori, di mana memori berkinerja tinggi menyumbang sekitar 75% dari biaya daftar bahan server AI tertentu. Laporan Goldman Sachs menunjukkan bahwa harga memori pada kuartal ketiga akan terus meningkat, dengan perkiraan kenaikan harga DRAM PC sebesar 18% hingga 23% dan DRAM server sebesar 13% hingga 18%. Data Trendforce menunjukkan bahwa pada Agustus, harga DDR4 8GB dan DDR5 8GB di pasar spot masing-masing naik menjadi $142 dan $133. Dua ASIC TPU yang diluncurkan Google tahun ini telah dirancang secara optimal untuk memori, dengan klaim dapat mengurangi kebutuhan memori hingga seperenamnya. Chip TPU8i menggunakan desain memori hierarkis khusus yang mengandalkan arsitektur memori DDR5 berkecepatan tinggi untuk menjalankan tugas tingkat host, dengan masing-masing chip dilengkapi 288GB memori HBM3e berpita lebar tinggi.