Google ra mắt TPU thế hệ thứ 8 với các chip đào tạo và suy luận riêng biệt

Tin tức từ ME News, ngày 22 tháng 4 (UTC+8), theo giám sát của Beating, CEO Google Sundar Pichai đã ra mắt TPU thế hệ thứ tám tại Cloud Next 2026, lần đầu tiên tách riêng chip đào tạo và suy luận. TPU 8t hướng đến đào tạo. Một nút siêu máy tính có thể kết nối 9.600 chip TPU, cung cấp 121 ExaFlops sức mạnh tính toán và 2PB bộ nhớ băng thông cao chia sẻ, hiệu năng xử lý gấp 3 lần so với thế hệ trước Ironwood và hiệu quả năng lượng tăng tối đa 2 lần. Băng thông liên kết giữa các chip được tăng gấp đôi, kết hợp với kiến trúc mạng Virgo mới, cho phép tối đa kết nối 1 triệu chip thành một cụm logic duy nhất, đạt khả năng mở rộng gần tuyến tính. Google cho biết mục tiêu là rút ngắn chu kỳ phát triển các mô hình tiên tiến từ vài tháng xuống vài tuần. TPU 8i hướng đến suy luận. Một pod kết nối 1.152 chip TPU, được trang bị 288GB bộ nhớ băng thông cao và 384MB SRAM trên chip, tăng gấp 3 lần so với Ironwood, nhằm giữ tối đa dữ liệu mô hình đang hoạt động trên chip. Kiến trúc mạng Boardfly mới giảm đáng kể độ trễ, Google cho biết với chi phí tương đương có thể phục vụ gần gấp đôi số lượng khách hàng, nhằm hỗ trợ hàng triệu agent chạy đồng thời. Cả hai chip đều được tích hợp trên CPU Axion kiến trúc Arm do Google tự phát triển, kết hợp với làm mát bằng chất lỏng thế hệ thứ tư. Dự kiến sẽ chính thức cung cấp trên nền tảng Google Cloud AI Hypercomputer vào cuối năm 2026, đồng thời cung cấp song song với các instance GPU của NVIDIA. (Nguồn: BlockBeats)