Google sẽ tích hợp kiến trúc Gemini vào chip AI mới, tăng hiệu quả suy luận lên tới 10 lần

Theo giám sát của Beating, Google đang phát triển chip xử lý AI Frozen v2. Chip này sẽ cố định một phần kiến trúc của Gemini trực tiếp vào phần cứng, giảm thiểu tính toán và việc di chuyển dữ liệu khi chạy mô hình. Nội bộ dự kiến, số lượng Token xử lý trên mỗi watt sẽ đạt 6 đến 10 lần so với TPU mới nhất. Google kế hoạch triển khai sớm nhất vào năm 2028. Google hy vọng sẽ sử dụng nó để giảm bớt tình trạng thiếu hụt năng lực tính toán, vốn đã buộc Google Cloud từ chối một số đơn đặt hàng từ khách hàng bên ngoài. Frozen v2 sẽ tồn tại song song với TPU. TPU có thể chạy nhiều mô hình khác nhau, trong khi Frozen v2 đánh đổi tính linh hoạt để lấy hiệu suất cao hơn. Đây cũng là một cú đặt cược về kiến trúc: nếu Gemini thay đổi lớn thiết kế nền tảng trong tương lai, những chip này có thể sẽ không còn sử dụng được nữa.