NVIDIA open-source Nemotron 3.5 Lightning pour l'exécution d'outils d'agent

Selon les observations de Beating, NVIDIA a lancé le modèle open-source Nemotron 3.5 Lightning, spécialement conçu pour effectuer des tâches d'exécution prolongées pour les agents. Ce modèle compte 30 milliards de paramètres au total, avec seulement 3 milliards activés par token, et est principalement dédié à des tâches fréquentes telles que l'appel d'outils, la vérification des résultats et la planification des sous-agents. La stratégie de NVIDIA consiste à répartir les rôles des agents de manière plus approfondie : la planification complexe est confiée à des modèles plus grands comme Nemotron 3 Ultra, tandis que les exécutions répétitives sont déléguées à Lightning. Selon l'entreprise, sa vitesse de sortie peut atteindre jusqu'à quatre fois celle des modèles équivalents. Sur PinchBench, Lightning atteint une précision de 86 % ; dans des conditions de précision similaires, il termine 10 000 tâches 30 % plus rapidement que Qwen3.6 35B. Le modèle utilise une architecture MoE, a été spécifiquement entraîné pour les environnements d'agents, et intègre la prédiction multi-token ainsi que le décodage par conjecture. NVIDIA fournit des poids en BF16 et NVFP4, compatibles avec des appareils locaux tels que les RTX 5090 et DGX Spark, ainsi qu'avec llama.cpp, Ollama, LM Studio et Unsloth. Il met également l'accent sur la personnalisation : NVIDIA ouvre les poids, une partie des données d'entraînement et les recettes d'entraînement, permettant aux entreprises de poursuivre l'entraînement postérieur pour des tâches spécifiques telles que le code, la sécurité ou le droit. Les cas présentés par l'entreprise montrent que, après un entraînement postérieur, Lightning obtient des améliorations significatives sur plusieurs tâches professionnelles.