Многоагентная система Cursor оптимизировала 235 операторов NVIDIA GPU за три недели, приблизившись к пределам аппаратных возможностей

Согласно новости ME, 15 апреля (UTC+8), по данным мониторинга Beating, инструмент AI-программирования Cursor раскрыл эксперимент по сотрудничеству со своей многопроцессной системой и NVIDIA. Эта система автономно работала в течение трех недель на 27 GPU Blackwell B200, решая 235 реальных задач оптимизации операторов, извлеченных из более чем 124 производственных открытых моделей, включая DeepSeek, Qwen и Gemma, — создавая и оптимизируя код GPU-операторов с нуля, в результате чего достигнуто геометрическое ускорение в среднем на 38%. Оптимизация GPU-операторов — одна из самых сложных областей в программной инженерии, требующая от инженеров глубокого понимания архитектуры чипов, инструкций на уровне ассемблера и управления памятью; высокопроизводительный оператор обычно требует месяцев или даже лет тонкой настройки опытными специалистами. Многопроцессная система Cursor обработала все 235 задач одновременно: один планирующий агент распределял задачи и динамически управлял расписанием на основе метрик производительности, несколько рабочих агентов оптимизировали параллельно, а система автоматически запускала тестовую конвейерную цепочку SOL-ExecBench от NVIDIA, формируя автоматический цикл «тестирование — отладка — оптимизация» без какого-либо вмешательства человека. Система выполнила два цикла: один на CUDA C (с встроенными PTX-ассемблерными инструкциями), чтобы протестировать базовые аппаратные возможности, и другой на CuTe DSL, чтобы проверить способность изучать новые API, практически не представленные в открытых обучающих данных. Из 235 задач система превзошла базовые показатели в 149 (63%), причем в 45 (19%) задачах ускорение превысило 2 раза. Три ключевых результата: 1. BF16 Grouped Query Attention (извлечено из сценария инференса Llama 3.1 8B): на 84% быстрее, чем оптимизированная вручную библиотека FlashInfer, результат SOL — 0,9722, почти достигнув теоретического предела аппаратных возможностей (максимум — 1,0). 2. BF16 матричное умножение: оператор, сгенерированный с нуля, достиг 86% производительности ручной оптимизации cuBLAS от NVIDIA и превзошел базовый показатель до 9% в сценариях с малым M, типичных для декодирования LLM. 3. Линейная операция NVFP4 Mixed Expert Layer (извлечена из моделей MoE, таких как Qwen3): система самостоятельно выявила узкое место квантования 4-битной плавающей запятой и провела целенаправленную оптимизацию путем слияния, обеспечив ускорение на 39%. Cursor признал, что медианный результат SOL составил всего 0,56, что означает значительный потенциал для дальнейшего улучшения — главным образом из-за ограниченного объема GPU-ресурсов (27 GPU делятся между 235 задачами). Cursor заявил, что эти многопроцессные технологии «будут вскоре интегрированы в основной продукт». То, что AI-агент от компании IDE уже способен приблизиться к уровню лучших человеческих экспертов в оптимизации GPU на уровне ассемблера — это гораздо более значимый прорыв, чем просто «помощь в написании кода приложений». (Источник: BlockBeats)