On a rapporté que Google Cloud refuse des contrats clients car elle n’a pas suffisamment de capacité de calcul interne, et j’ai immédiatement voulu savoir ce qu’elle construisait réellement pour y remédier. Il s’avère que c’est une puce codée Frozen V2, et son histoire est véritablement intéressante. Une version antérieure de cette idée, menée par le scientifique en chef de DeepMind, Jeff Dean, visait à graver directement les poids du modèle Gemini dans le silicium. Ce projet a été abandonné, car la puce serait devenue inutilisable dès que Gemini serait mis à jour avec une nouvelle version. Frozen V2 résout ce problème en durcissant uniquement l’architecture — le plan de base stable — tout en laissant les poids modifiables via un chargement normal. Le résultat rapporté est une augmentation de 6 à 10 fois plus de tokens traités par watt par rapport aux TPUs actuels de Google ! Prévue pour un déploiement dès 2028, elle fonctionnera en parallèle avec la gamme existante de TPUs, sans les remplacer. Cela semble être le signe le plus clair jusqu’à présent que les plus grands laboratoires commencent à considérer le modèle et la puce comme un seul problème de conception, et non comme deux problèmes distincts.