NVIDIA mở nguồn Nemotron 3.5 Lightning để thực thi công cụ đại lý

Theo giám sát của Beating, NVIDIA đã phát hành mô hình mã nguồn mở Nemotron 3.5 Lightning, được thiết kế đặc biệt để thực hiện các nhiệm vụ thường xuyên cho các Agent chạy lâu dài. Mô hình có tổng tham số 30 tỷ, nhưng chỉ kích hoạt 3 tỷ tham số mỗi token, chủ yếu đảm nhận các tác vụ tần suất cao như gọi công cụ, kiểm tra kết quả và điều phối các Agent con. Tư tưởng của NVIDIA là phân công nhiệm vụ cho Agent một cách triệt để hơn: các kế hoạch phức tạp giao cho các mô hình lớn như Nemotron 3 Ultra, trong khi các tác vụ lặp lại nhiều được giao cho Lightning. Theo nhà phát hành, tốc độ đầu ra của nó có thể đạt tới 4 lần so với các mô hình cùng cấp. Trên PinchBench, Lightning đạt độ chính xác 86%, và trong điều kiện độ chính xác tương đương, nó hoàn thành 10.000 nhiệm vụ nhanh hơn 30% so với Qwen3.6 35B. Mô hình sử dụng kiến trúc MoE, được huấn luyện đặc biệt cho Agent Harness, đồng thời tích hợp dự đoán đa token và giải mã suy đoán. NVIDIA cung cấp trọng số định dạng BF16 và NVFP4, cho phép chạy trên các thiết bị cục bộ như RTX 5090, DGX Spark, và hỗ trợ llama.cpp, Ollama, LM Studio và Unsloth. Nó cũng nhấn mạnh khả năng tùy chỉnh: NVIDIA đã mở cửa trọng số, một phần dữ liệu huấn luyện và công thức huấn luyện, cho phép doanh nghiệp tiếp tục tinh chỉnh sau huấn luyện cho các nhiệm vụ chuyên biệt như mã hóa, bảo mật, pháp lý... Trong các ví dụ do nhà phát hành trình bày, sau khi tinh chỉnh, Lightning đã đạt điểm số tăng rõ rệt trên nhiều nhiệm vụ chuyên môn.