Google використовує DDR4 з виведених з експлуатації серверів для подолання дефіциту пам’яті

ChainCatcher повідомляє, що старший директор з інфраструктури ланцюжка поставок Google Nikhil Cherian розкрив, що Google розробляє програмне та апаратне рішення для подолання обмежень пам’яті, розбирайчи відпрацьовані сервери для вилучення компонентів DDR4 та створення внутрішнього ланцюжка переробки. Google розробила спеціальні апаратні адаптери, які дозволяють підключити попереднє покоління DDR4 до нових серверів штучного інтелекту, а також імпортує відпрацьовані сервери для вилучення та переробки їх модулів DDR4. Cherian зазначив, що індустрія штучного інтелекту швидко перейшла від обмежень обчислювальної потужності до обмежень пам’яті, при цьому високопродуктивна пам’ять становить близько 75% вартості матеріалів для даного сервера штучного інтелекту. Згідно з звітом Goldman Sachs, ціни на пам’ять у третьому кварталі продовжать зростати: очікується зростання цін на DRAM для ПК на 18–23%, а на серверну DRAM — на 13–18%. Дані Trendforce показують, що у серпні ціни на DDR4 8 ГБ та DDR5 8 ГБ на ринку спот зросли до 142 та 133 доларів США відповідно. Два нових TPU ASIC, запущені Google цього року, були оптимізовані під пам’ять і, як стверджується, зможуть зменшити вимоги до пам’яті до шостої частини від початкових. Чип TPU8i використовує спеціалізовану ієрархічну архітектуру пам’яті, що базується на високoshвидкісній архітектурі DDR5 для виконання завдань хоста, і оснащений 288 ГБ високосмугової пам’яті HBM3e на кожен чип.