Google перерабатывает DDR4 из списанных серверов для решения дефицита памяти

ChainCatcher сообщает, что старший директор по инфраструктуре цепочки поставок Google Никхил Чериан раскрыл, что Google разрабатывает программные и аппаратные решения для преодоления ограничений памяти, а также демонтирует списанные серверы для извлечения компонентов DDR4 и создания собственной цепочки поставок по переработке. Google разработал специальные аппаратные адаптеры, позволяющие подключать предыдущее поколение DDR4 к новым серверам искусственного интеллекта, одновременно импортируя списанные серверы для извлечения и повторного использования модулей DDR4. Чериан отметил, что индустрия искусственного интеллекта быстро перешла от ограничений вычислительной мощности к ограничениям памяти, при этом высокопроизводительная память составляет около 75% стоимости компонентов данного сервера ИИ. Согласно отчету Goldman Sachs, цены на память в третьем квартале продолжат расти: ожидается рост цен на DRAM для ПК на 18–23%, а на серверный DRAM — на 13–18%. Данные Trendforce показывают, что в августе цены на DDR4 8 ГБ и DDR5 8 ГБ на спотовом рынке выросли до 142 и 133 долларов соответственно. Два новых TPU ASIC, представленные Google в этом году, были оптимизированы под память и, как ожидается, снизят потребность в памяти до одной шестой от прежнего уровня. Чип TPU8i использует специализированную иерархическую архитектуру памяти, основанную на высокоскоростной архитектуре DDR5 для выполнения задач хоста, и оснащен 288 ГБ высокоскоростной памяти HBM3e на каждый чип.