
Tout le monde suppose que la prochaine étape de la chaîne d'approvisionnement en IA est la fabrication de plus de puces. Leo Fan affirme qu'il existe un levier plus important, caché en pleine vue : « Avant de passer à la fabrication de plus de puces, nous pouvons utiliser le matériel actuel, pas les derniers modèles, pour obtenir les mêmes résultats, à condition de consacrer les efforts d'ingénierie nécessaires. » « Prenez un modèle open-source de premier plan comme DeepSeek. Vous pouvez effectuer la même inférence sur des cartes anciennes de la gamme 4090 au lieu des tout derniers B200. Les résultats sont identiques. » « L'entraînement nécessite toujours les dernières GPU pour obtenir les meilleurs résultats. Mais l'inférence, elle, n'en a pas besoin. C'est cette différence qui permet d'obtenir le même résultat pour beaucoup moins cher. »
