Google запускає TPU 8-го покоління з окремими чіпами для навчання та висновку

ME News: 22 квітня (UTC+8), за даними Beating, генеральний директор Google Sundar Pichai на Cloud Next 2026 представив восьме покоління TPU, вперше розділивши навчання та висновки на дві окремі чіпси. TPU 8t призначений для навчання. Один супервузол може підключити до 9600 чіпів TPU, забезпечуючи 121 ExaFlops обчислювальної потужності та 2 ПБ спільної пам’яті з високою пропускною здатністю, що в 3 рази перевищує продуктивність попереднього покоління Ironwood, а енергоефективність збільшена до 2 разів. Пропускна здатність міжчіпового з’єднання подвоїлася, а разом із новою мережевою топологією Virgo дозволяє об’єднати до мільйона чіпів у єдиний логічний кластер для майже лінійного масштабування. Google заявляє, що мета — скоротити цикл розробки передових моделей з кількох місяців до кількох тижнів. TPU 8i призначений для висновків. Один под підключає 1152 чіпси TPU з 288 ГБ пам’яттю з високою пропускною здатністю та 384 МБ вбудованої SRAM, що в 3 рази більше, ніж у Ironwood, для зберігання активних даних моделей безпосередньо на чіпі. Нова мережева топологія Boardfly значно зменшує затримку; Google стверджує, що за тих самих витрат можна обслуговувати майже вдвічі більше клієнтів, мета — підтримувати одночасну роботу мільйонів агентів. Обидва чіпси розміщені на саморозробленому Google ARM-архітектурному CPU Axion з четвертим поколінням рідинного охолодження. Планується запуск у кінці 2026 року на платформі Google Cloud AI Hypercomputer, де вони будуть доступні паралельно з інстансами NVIDIA GPU. (Джерело: BlockBeats)