NVIDIA открывает исходный код Nemotron 3.5 Lightning для выполнения инструментов агента

Согласно данным Beating Monitoring, NVIDIA выпустила открытую модель Nemotron 3.5 Lightning, специально предназначенную для выполнения повторяющихся задач агентами. Общее количество параметров модели составляет 30 миллиардов, при этом активируется только 3 миллиарда параметров на каждый токен; основные задачи включают вызов инструментов, проверку результатов и управление подагентами. Подход NVIDIA заключается в более глубоком разделении обязанностей между агентами: сложное планирование поручается большим моделям, таким как Nemotron 3 Ultra, а массовое выполнение повторяющихся задач — Lightning. По данным компании, скорость вывода модели может достигать в четыре раза выше, чем у аналогичных моделей. На PinchBench точность Lightning составляет 86%, и при сопоставимой точности она завершает 10 000 задач на 30% быстрее, чем Qwen3.6 35B. Модель использует архитектуру MoE, специально обучена для работы с Agent Harness, а также включает многотокенное предсказание и спекулятивное декодирование. NVIDIA предоставляет веса в форматах BF16 и NVFP4, которые могут работать на локальных устройствах, таких как RTX 5090 и DGX Spark, а также поддерживаются llama.cpp, Ollama, LM Studio и Unsloth. Также подчеркивается возможность настройки: NVIDIA открыла веса, часть обучающих данных и методики обучения, позволяя компаниям проводить дальнейшую дообучение модели для задач в области кодирования, безопасности, юриспруденции и других. В примерах, представленных компанией, после дообучения Lightning показала значительный рост точности по нескольким профессиональным задачам.