Un agent IA reproduit un logiciel similaire à CUDA en 10 heures, suscitant un débat

CUDA est encore une fois battu...

Cette fois-ci, c'est l'IA que NVIDIA a directement formée qui agit.

Une petite entreprise créée il y a seulement un an a utilisé un agent de programmation IA pour développer en seulement 10 heures une « solution similaire à CUDA ».

Arrêtez.

Vous dites que cet empire logiciel construit par NVIDIA au cours de près de 20 ans a été ainsi copié ? ?

Et bien plus encore. DeepSeek Essayez également d'écrire moins de CUDA de bas niveau.

Ils ont open-sourcé une bibliothèque d'opérateurs GPU appelée TileKernels, écrite en TileLang, ce qui élimine le besoin d'écrire manuellement un grand nombre de codes CUDA de bas niveau.

Mais nous n'avons pas entendu de « crise CUDA » similaire pour la première fois.

À intervalles réguliers, CUDA est critiqué, on affirme sans cesse qu’il est remplacé, dépassé, que son avantage concurrentiel est encore une fois annihilé…

Is that really the case?

Lorsqu'on évoque NVIDIA, beaucoup pensent d'abord aux GPU.

H100, Blackwell, Rubin : grâce à une génération après l'autre de puces de plus en plus performantes, NVIDIA a capté la majeure partie des bénéfices de cette vague d'IA.

Mais le véritable avantage difficile à défaire d'NVIDIA n'est pas le matériel, mais le logiciel.

On peut acheter des puces, suivre les spécifications et assister à l'itération des procédés. Ce qui rend vraiment difficile pour les clients de quitter NVIDIA après l'avoir utilisée, c'est l'écosystème logiciel complet construit autour des GPU.

Et CUDA, c'est le cœur de cet empire logiciel.

CUDA, qui signifie Compute Unified Device Architecture, a été développé pendant près de 20 ans sous la direction du cadre d'NVIDIA Ian Buck.

Il est souvent appelé un langage de programmation, mais il est plus précis de dire que CUDA est une plateforme logicielle complète construite autour des GPU NVIDIA.

Si on le décompose simplement en trois couches, la couche la plus basse est la couche noyau, composée du Kernel, du compilateur et de l’environnement d’exécution qui commandent directement le processeur.

Au milieu se trouvent les bibliothèques de calcul hautement optimisées, telles que cuBLAS et cuDNN, ainsi que des outils de débogage, de validation et d'analyse de performance.

En haut, on trouve des frameworks de développement tels que PyTorch et TensorFlow, ainsi que les vastes quantités de code et de flux de travail accumulés par les entreprises, et l'écosystème de développeurs qui a émergé autour de CUDA.

△

Cela peut sembler un peu abstrait, mais vous pouvez imaginer les GPU NVIDIA comme une usine.

CUDA à la base gère les instructions à la machine pour chaque étape, la couche intermédiaire fournit des outils de production prêts à l'emploi, et la couche supérieure constitue un système de production entier fonctionnant depuis plusieurs années.

Ainsi, pour les clients, ce qu'ils achètent n'est pas seulement une carte NVIDIA, mais une usine prête à l'emploi.

Maintenant, un certain Jeremy Nixon arrive avec un AI Agent.

Nixon est le fondateur de l'entreprise de logiciels d'intelligence artificielle Infinity et a précédemment travaillé comme chercheur chez Google Brain.

Son équipe a développé un agent d'analyse AI nommé Ignition, spécialement conçu pour écrire des logiciels de bas niveau pour différents processeurs AI.

Il peut générer des noyaux GPU, exécuter des tests, détecter des erreurs, mesurer les performances, puis réécrire automatiquement le code en fonction des résultats.

Les ingénieurs humains sont chargés de définir la direction globale, tandis que les tâches fastidieuses et exigeantes sont confiées aux agents pour des cycles répétés.

Ainsi, Infinity a développé pour d-Matrix, une startup de puces IA, un logiciel de type CUDA avec Ignition.

Il n'a fallu que 10 heures.

Hein ????

Les codes de bas niveau qui nécessitaient autrefois des ajustements répétés par des ingénieurs logiciels en puces peuvent-ils vraiment être confiés à l’IA ?

Il ne faut pas dire que c'est complètement de la surenchère.

Les agents IA sont effectivement bien adaptés à ce type de tâche de programmation avec un retour explicite.

Si le code peut être compilé, si les résultats sont corrects et si les performances ont été améliorées, toutes ces questions peuvent être résolues par l'exécution réelle.

Ainsi, l'agent peut établir une boucle complète :

Écrire du code → compiler → exécuter → tester la correction et les performances → modifier en fonction des retours

Cependant, Infinity cible principalement le premier niveau de CUDA : générer et optimiser des kernels d'inférence pour différents processeurs, et construire autour de ces kernels des capacités logicielles de base.

Il développe une bibliothèque d'inférence universelle adaptée à plusieurs types de puces, mais cela ne signifie pas qu'il a reproduit en 10 heures l'écosystème complet accumulé par CUDA au cours des 20 dernières années.

Mais…

Mais !

Vous n'avez pas besoin de copier un CUDA pour lever 15 millions de dollars de financement.

The company's current valuation has also reached $100 million.

Je ne sais pas s’il y a une menace pour NVIDIA, mais le capital semble vraiment acheter ça. (doge)

Si les agents IA sont les armes de siège, alors le marché de l'inférence est la brèche dans les remparts.

Le calcul des grands modèles est principalement divisé en deux parties :

L'entraînement consiste à créer un modèle et nécessite des milliers de cartes travaillant ensemble pendant plusieurs mois ; l'inférence utilise le modèle déjà entraîné pour répondre à des questions et peut être effectuée avec un petit cluster ou même une seule carte.

Du côté de l'entraînement, CUDA reste actuellement presque insoluble.

L'entraînement à grande échelle est extrêmement sensible aux performances, à la stabilité et à la coordination du cluster. La communication entre puces, la gestion de la mémoire vidéo et la reprise après erreur : toute perte d'efficacité, amplifiée sur des milliers voire des dizaines de milliers de puces, se traduit par des pertes réelles de temps et de coûts.

Par conséquent, les entreprises sont souvent extrêmement conservatrices lors du choix d'une plateforme de formation.

Même si les autres puces affichent de bonnes spécifications théoriques, si le logiciel n'est pas suffisamment mature ou si le cluster n'est pas stable, les économies réalisées sur les coûts matériels seront très probablement compensées par des coûts de développement et d'essais-erreurs multipliés.

Mais du côté de l'inférence, les règles du jeu ont changé.

Marshall Choy, directeur commercial de l'entreprise coréenne de puces AI Rebellions, estime que :

Du côté de l'inférence, CUDA n'est plus un facteur déterminant. Ce sera une compétition entre logiciels open source.

Pourquoi les concurrents ciblent-ils tous l'inférence ?

L'entraînement se concentre sur la « performance maximale », tandis que l'inférence se préoccupe du « coût par réponse ».

L'entraînement nécessite des milliers de cartes qui travaillent ensemble, tandis que l'inférence peut être répartie sur de petits clusters ou même une seule carte ; on n'ose pas changer de puce pour l'entraînement, mais on peut le faire pour l'inférence.

De toute façon, tant que c’est rapide et bon marché, les clients sont prêts à essayer.

Plus important encore, les logiciels d'inférence peuvent s'exécuter sur plusieurs types de puces. Si le cadre d'inférence prend en charge plusieurs puces, les utilisateurs pourront basculer entre différents matériels sans avoir à réécrire leur code—

The largest lock-in effect of CUDA is now nullified.

Cela laisse une opportunité aux puces de traitement dédiées.

Les tâches d'inférence n'exigent pas toutes la pleine capacité CUDA, de l'entraînement à la collaboration entre clusters. Des puces conçues spécifiquement pour des modèles ou des scénarios particuliers, pourvu qu'elles soient plus rapides, moins chères ou plus économes en énergie, ont la possibilité de capturer une part du marché auprès de NVIDIA.

Par exemple, d-Matrix est une entreprise de puces spécialisée dans l'inférence.

L'entreprise a été fondée en 2019 et se concentre sur les puces d'inférence pour l'IA générative.

Le cofondateur et PDG Sid Sheth a rappelé qu'ils avaient dès le départ jugé que les opportunités apportées par l'inférence IA finiraient par dépasser celles de l'entraînement.

Le logiciel similaire à CUDA développé par Infinity avec un agent IA en 10 heures sert les puces d'inférence de d-Matrix.

Ainsi, l'histoire complète de l'« événement de 10 heures » est maintenant complète :

Nouveau puce vise le marché de l'inférence, mais manque de logiciels matures ; les AI Agent génèrent et optimisent rapidement les Kernel sous-jacents, réduisant des mois voire des années d'adaptation à quelques heures ou jours.

Sid a également déclaré ouvertement :

Bien que NVIDIA maintienne sa domination dans le domaine de l'entraînement, son avantage compétitif s'est affaibli dans le domaine de l'inférence.

D-Matrix n’est pas la seule à cibler ce trou.

Rebellions et d-Matrix axés sur le raisonnement, Cerebras qui mise sur les puces au niveau de la puce, Inferentia d'Amazon, TPU de Google, MI300X d'AMD…

Les fabricants de puces et les géants du cloud ont déjà déployé leurs forces sur le marché de l'inférence, prêts à arracher une part du gâteau à NVIDIA.

Pour ces entreprises, elles n'ont pas besoin de remplacer immédiatement NVIDIA.

Ils doivent simplement démontrer que, pour certaines tâches d'inférence, il est possible d'obtenir des performances plus rapides ou moins coûteuses sans compter sur l'ensemble complet du matériel NVIDIA et de l'écosystème CUDA.

C'est suffisant.

The answer might be… still far off.

Comme mentionné précédemment, les 10 heures de réécriture concernent uniquement le code d'adaptation d'un seul processeur, tandis que l'écosystème CUDA compte 20 ans d'accumulation de bibliothèques, d'outils de débogage, de communauté et de plusieurs millions de développeurs.

Cela ne peut pas être facilement bouleversé.

Plus important encore, le fait que le code puisse être généré ne signifie pas qu'il puisse être utilisé.

Bing Xu, fondateur d'INT21, a quitté NVIDIA en avril de cette année, après que sa précédente entreprise de logiciels pour puces AI, HippoML, ait été acquise par NVIDIA.

Son jugement est : l'agent peut générer un grand volume de code en peu de temps, mais la validation reste le plus grand goulot d'étranglement.

Générer dix mille lignes de code avec l'IA est rapide, mais « prouver que ces dix mille lignes calculent correctement et fonctionnent de manière stable dans toutes les situations limites » est extrêmement lent.

The deepest asset of CUDA is precisely its verification toolchain—so he believes that, in the Agent era, the verification ecosystem will become CUDA’s next moat.

Chris Lattner, cofondateur et PDG de Modular, a aussi mis un frein.

Il estime que les améliorations apportées par les agents de codage sont progressives, « l'effet médiatique est fortement exagéré ».

Trois raisons : premièrement, écrire du code ne représente qu'une petite partie de l'ingénierie logicielle ; l'optimisation pour la production détermine les performances des puces et influence directement le coût de l'exécution de l'IA ;

Deuxièmement, le logiciel de puces est un domaine niche et élitiste, avec beaucoup moins de code ouvert que le développement d'applications ; les données d'entraînement disponibles pour l'IA dans ce domaine sont dès lors limitées ;

Troisièmement, le coût de migration des millions de lignes de code existant persiste ; ce n'est pas un problème technique, mais une décision organisationnelle.

Un autre point souvent négligé : NVIDIA utilise également l'IA.

Ankit Patel, vice-président de l'écosystème des développeurs NVIDIA, a déclaré :

Nous utilisons également des agents IA pour développer plus rapidement CUDA et effectuer des validations à plus grande échelle.

Utiliser sa propre lance pour attaquer le bouclier de l'autre réduit également l'avantage relatif de l'attaquant.

Bing Xu résume : la victoire ou la défaite de ce combat dépend de la vitesse à laquelle les concurrents rattrapent NVIDIA, par rapport à la vitesse à laquelle NVIDIA s'auto-itére.

Mais il est évident que ce fabricant de puces le plus grand au monde « n’a pas dormi ni stagné ».

Dans l'ensemble, le fossé compétitif d'NVIDIA reste intact à court terme, mais les changements se produiront d'abord discrètement du côté de l'inférence.

Le véritable enjeu à long terme est que le fossé compétitif passe de « l'actif code » à « l'écosystème de vérification et d'optimisation ».

Celui qui occupe le nouveau poste en premier sera le prochain gagnant.

Lien de référence : [1] https://www.businessinsider.com/nvidia-cuda-new-threats-ai-coding-agents-2026-8

Cet article provient du compte officiel WeChat « Quantum Bit », auteur : Ting Yu