NVIDIA відкрила код Nemotron 3.5 Lightning для виконання інструментів агента

За даними Beating Monitoring, NVIDIA випустила відкриту модель Nemotron 3.5 Lightning, призначену для виконання тривалих завдань агентами. Загальна кількість параметрів моделі — 30 мільярдів, але для кожного токена активується лише 3 мільярди. Основні завдання — виклик інструментів, перевірка результатів та планування під-агентів. Підхід NVIDIA полягає у більш глибокому розподілі обов’язків між агентами: складне планування доручено великим моделям, таким як Nemotron 3 Ultra, а масове повторюване виконання — Lightning. За даними компанії, швидкість виведення моделі може досягати 4 разів вищої, ніж у аналогічних моделей. На PinchBench точність Lightning становить 86%, і при схожому рівні точності вона завершує 10 000 завдань на 30% швидше, ніж Qwen3.6 35B. Модель побудована за архітектурою MoE, навчена спеціально для Agent Harness, і містить багатотокенне передбачення та спекулятивне декодування. NVIDIA надає ваги у форматах BF16 та NVFP4, які можна запускати на локальних пристроях, таких як RTX 5090 та DGX Spark, а також підтримуються llama.cpp, Ollama, LM Studio та Unsloth. Модель також підкреслює свою налаштовуваність: NVIDIA відкрила ваги, частину навчальних даних та методи навчання, дозволяючи компаніям проводити доопрацювання для завдань у сфері кодування, безпеки, права тощо. У наведених прикладах після доопрацювання Lightning показала значне підвищення результатів на кількох професійних завданнях.