Đọc tin Google Cloud được cho là đang từ chối các hợp đồng khách hàng vì không đủ năng lực tính toán nội bộ, tôi lập tức muốn biết họ đang xây dựng gì để giải quyết vấn đề này. Hóa ra đó là một con chip có mật danh Frozen V2, và câu chuyện đằng sau nó thực sự thú vị. Một phiên bản trước của ý tưởng này, do nhà khoa học trưởng của DeepMind, Jeff Dean, dẫn dắt, muốn nén trực tiếp trọng số mô hình Gemini vào silicon. Tuy nhiên, dự án đã bị hủy bỏ vì chip sẽ trở nên vô dụng ngay khi Gemini được cập nhật lên phiên bản mới. Frozen V2 đã khắc phục điều này bằng cách cố định chỉ kiến trúc, tức là bản thiết kế nền tảng ổn định, trong khi vẫn cho phép cập nhật trọng số thông qua cách tải thông thường. Kết quả được báo cáo là xử lý được 6 đến 10 lần nhiều token hơn mỗi watt so với các TPU hiện tại của Google! Được nhắm mục tiêu triển khai sớm nhất vào năm 2028, chạy song song với dòng TPU hiện có thay vì thay thế chúng. Đây dường như là dấu hiệu rõ ràng nhất cho thấy các phòng thí nghiệm lớn nhất đang bắt đầu coi mô hình và chip như một bài toán thiết kế duy nhất, thay vì hai vấn đề riêng biệt!