NVIDIA a publié mercredi de nouveaux modèles de poids open source destinés à soutenir les agents toujours actifs et le calcul en périphérie.
Nemotron 3.5 Super VL est un modèle de grande taille doté de 120 milliards de paramètres, conçu pour les agents destinés aux entreprises. NVIDIA indique que, bien qu'il possède moins de paramètres que le modèle Nemotron 3 Ultra, sa précision dans les tâches de suivi d'instructions et d'utilisation d'outils peut être similaire.
De l'autre côté, NVIDIA a également lancé deux modèles Bolt légers, conçus pour fonctionner localement sur les nouveaux PC IA (équipés de la puce NVIDIA RTX Spark) et sur les postes de travail DGX Spark. Ces PC destinés aux consommateurs, développeurs et professionnels du savoir d'entreprise sont désormais disponibles sur le marché via des partenaires tels que Microsoft et Dell.
Kari Briski, vice-présidente d'Open Models et de logiciels chez NVIDIA, a écrit dans son article de blog présentant ces modèles : « Toute organisation souhaitant exécuter des agents sur l'infrastructure NVIDIA peut désormais trouver un modèle ouvert et optimisé adapté à son niveau, sans avoir à faire de compromis entre performance et déployabilité. »
NVIDIA affirme qu'après un fine-tuning pour des tâches d'agents spécifiques, Super VL effectue ces tâches plus rapidement que les modèles concurrents d'Anthropic et d'OpenAI (Opus 5, GPT 6.1 Sol, Luna, Astra). Ces tâches incluent l'intelligence documentaire, la comptabilité financière, les expériences scientifiques, les réclamations d'assurance santé et la résilience aux attaques de sécurité.
Bien que ce type d'affirmation soit courant chaque fois qu'une grande entreprise technologique lance un nouveau modèle, NVIDIA a également listé un ensemble d'entreprises de grande taille qui utiliseraient selon elle Super VL, notamment Skydance, EY, Ramp, Crowdstrike, Perplexity et Salesforce.
Bien sûr, ce n'est pas la première fois qu'NVIDIA publie des modèles open source concurrents des laboratoires propriétaires de pointe — des entreprises qui sont à la fois ses clients et ses investisseurs. La série de modèles Nemotron d'NVIDIA couvre des fonctionnalités telles que l'intelligence artificielle multimodale, l'inférence, la programmation, les mathématiques et l'automatisation entreprise.
Cependant, ces laboratoires d'IA propriétaires à croissance rapide se tournent désormais vers d'autres fournisseurs de puces et de systèmes d'IA en dehors de NVIDIA pour répondre à leurs besoins, tels que Trainium d'AWS, Cerebras et des puces développées en interne.
Ainsi, NVIDIA mise fortement sur la tendance selon laquelle les entreprises souhaitent exécuter des modèles open source dans leurs propres centres de données. Briski écrit : « Contrairement aux modèles avancés fermés, les organisations peuvent effectuer un post-entraînement de Super VL avec leurs propres données, le déployer sur leur propre infrastructure et posséder les résultats qu'elles ont créés. »
Mais avec la sortie de ces modèles PC plus petits et exécutables localement, NVIDIA tente également de promouvoir la tendance émergente des assistants IA grand public. Bien qu'il semble qu'une nouvelle assistance IA soit lancée chaque jour par des startups et de grandes entreprises technologiques, les consommateurs préoccupés par la confidentialité ne souhaitent peut-être pas que ces agents aient un accès approfondi à leur vie et à des informations sensibles telles que celles concernant leur foyer, leur santé ou leurs finances.
Ainsi, NVIDIA vise à créer un nouveau marché en développant des machines capables d'exécuter des modèles et des agents localement, afin de vendre des PC alimentés par ses puces. Briski écrit que les utilisateurs de PC « peuvent déléguer des projets quotidiens... sans avoir à envoyer ces charges de travail vers le cloud ».
Parmi les deux modèles Bolt, Nemotron 3.5 Bolt 74B-A9B 24Go est un modèle de 74 milliards de paramètres conçu pour les tâches d'agent local, visant à équilibrer vitesse et capacité d'inférence pour gérer le raisonnement en plusieurs étapes, l'appel d'outils et la navigation web. Le modèle plus léger Bolt E4B est destiné aux agents conversationnels.
NVIDIA indique que Super VL et Bolt 74B-A9B sont désormais disponibles, et Bolt E4B sera lancé à la fin de ce mois.