Message de BlockBeats, le 26 juillet : l'investisseur d'Anthropic, Deedy, a souligné que toutes les startups en cours de développement de la prochaine génération de puces IA tentent, par des moyens variés, de mettre fin à la domination d'NVIDIA en ciblant le problème fondamental du déplacement des données. Les six approches différenciées incluent : éliminer la DRAM (Groq, déjà acquise par NVIDIA pour 20 milliards de dollars), éliminer les interconnexions (Cerebras, déjà cotée avec une capitalisation boursière d'environ 48 milliards de dollars), éliminer la séparation calcul/mémoire (d-Matrix), éliminer l'architecture centrée sur le serveur (Majestic), éliminer la polyvalence (Etched, Taalas, MatX), ainsi que éliminer les machines de lithographie d'une valeur de 400 millions de dollars (Substrate).
L'introduction et le prix d'acquisition de Cerebras et Groq ont établi une référence de prix pour l'ensemble du secteur des puces AI, tandis que Etched a vu sa valorisation doubler cette semaine pour atteindre 10,3 milliards de dollars, passant en seulement trois semaines d'un statut discret à une explosion, confirmant ainsi que les capitaux réévaluent rapidement la valorisation de ce secteur. Parmi les 18 principales startups, la valeur nominale combinée des entreprises privées s'élève à environ 58 milliards de dollars, et la capitalisation boursière sur les marchés publics à environ 48 milliards de dollars, couvrant plusieurs sous-secteurs tels que l'inférence, l'entraînement/nouvelles architectures, les systèmes ainsi que les fabriques de puces et la lithographie.
Chaque approche remet en question les hypothèses fondamentales de l'architecture GPU de NVIDIA : le déplacement des données entre les unités de calcul et la mémoire consomme à la fois du temps et de l'énergie. Groq élimine complètement la latence des niveaux de mémoire en remplaçant la DRAM par de la SRAM, Cerebras élimine les goulets d'étranglement inter-puces grâce à des puces de taille wafer, d-Matrix effectue directement les calculs dans la mémoire, et Etched renonce à la polyvalence pour concevoir du matériel spécifiquement dédié à l'architecture Transformer. L'écosystème des startups de puces AI a évolué d'une narration unique visant à remplacer les GPU vers une attaque multi-point au niveau de l'architecture. L'acquisition de Groq par NVIDIA montre qu'elle comprend parfaitement que la prochaine génération de concurrence ne repose plus sur les pics de puissance de calcul, mais sur une重构 complète de l'efficacité du déplacement des données.