ИИ-агент воспроизвел программное обеспечение, подобное CUDA, за 10 часов, вызвав дискуссию

CUDA снова и снова был создан…

На этот раз действует ИИ, которого亲手 вырастила NVIDIA.

Небольшая компания, существующая всего один год, с помощью AI-программного агента за 10 часов создала «программное обеспечение, подобное CUDA».

Стоп, стоп, стоп.

Ты имеешь в виду, что эту программную империю NVIDIA, которую строили почти 20 лет, просто скопировали??

И это еще не все. DeepSeek Также пытаетесь писать меньше низкоуровневого CUDA.

Они открыли исходный код библиотеки GPU-операторов под названием TileKernels, написанной на TileLang, что позволило избавиться от необходимости писать множество низкоуровневых CUDA-кодов вручную.

Однако подобный «кризис CUDA» мы слышим не впервые.

Через некоторое время CUDA снова подвергают критике: якобы её уже заменили, прорвали, её конкурентное преимущество снова разрушено…

Is that really true?

Когда говорят о NVIDIA, многие сразу вспоминают GPU.

H100, Blackwell, Rubin — благодаря серии все более мощных чипов, NVIDIA получила наибольшую выгоду от этой волны ИИ.

Но истинное, труднооспоримое преимущество NVIDIA — это не аппаратное обеспечение, а программное обеспечение.

Чипы можно покупать, параметры можно догонять, технологический процесс также будет развиваться. То, что действительно заставляет клиентов, использовавших NVIDIA, с трудом отказаться от нее, — это вся программная экосистема, построенная вокруг GPU.

А CUDA — это ядро этой программной империи.

CUDA расшифровывается как Compute Unified Device Architecture и была создана командой под руководством менеджера NVIDIA Иэна Бака в течение почти 20 лет.

Его часто называют языком программирования, но более точно CUDA — это вся совокупность программной платформы, построенной вокруг GPU NVIDIA.

Если упростить до трех уровней, то самый нижний — это ядро, включающее Kernel, компилятор и среду выполнения, которые напрямую управляют чипом.

На среднем уровне — библиотеки вычислений, такие как cuBLAS и cuDNN, тщательно оптимизированные, а также инструменты отладки, проверки и анализа производительности.

Вверху находятся такие платформы разработки, как PyTorch и TensorFlow, огромные объемы кода и рабочих процессов, накопленных компаниями, а также экосистема разработчиков, выросшая вокруг CUDA.

△

Это может звучать немного абстрактно, но вы можете представить GPU от NVIDIA как фабрику.

CUDA на самом низком уровне отвечает за указание машине, как выполнять каждый шаг, средний уровень предоставляет готовые производственные инструменты, а верхний уровень представляет собой целую систему производства, функционирующую уже многие годы.

Таким образом, клиенты приобретают не просто одну карту NVIDIA, а готовый к использованию завод.

Сейчас пришел парень по имени Джереми Никсон с AI Agent.

Никсон — основатель AI-стартапа Infinity, ранее работал исследователем в Google Brain.

Его команда разработала AI-исследовательский агент под названием Ignition, специально предназначенный для написания низкоуровневого программного обеспечения для различных AI-чипов.

Он может генерировать GPU-ядра, запускать тесты, искать ошибки, измерять производительность и автоматически переписывать код на основе результатов.

Человеческие инженеры отвечают за определение стратегического направления, а всю мелкую и умственно требовательную работу поручают агентам для повторяющегося цикла.

Таким образом, Infinity создала для стартапа в области AI-чипов d-Matrix программное обеспечение, аналогичное CUDA, с использованием Ignition.

Ушло всего 10 часов.

А?

Теперь действительно можно передать AI низкоуровневый код, который раньше требовал многократной отладки инженерами по программному обеспечению чипов?

Это действительно нельзя назвать полным ажиотажем.

AI-агент действительно хорошо подходит для таких программных задач с четкой обратной связью.

Можно получить ответы на вопросы, можно ли скомпилировать код, правильно ли вычисляются результаты и улучшилась ли производительность, просто запустив его.

Таким образом, агент может сформировать полный цикл:

Написать код → скомпилировать → запустить → проверить корректность и производительность → внести изменения на основе обратной связи

Однако Infinity в первую очередь фокусируется на первом уровне CUDA: генерации и оптимизации инференс-ядер для различных чипов и создании базовой программной инфраструктуры вокруг этих ядер.

Он разрабатывает универсальную библиотеку вывода для различных чипов, но это не означает, что он за 10 часов воспроизвел полную экосистему CUDA, накопленную за почти 20 лет.

Но…

Но!

На самом деле вам не нужно копировать CUDA, чтобы привлечь 15 миллионов долларов финансирования.

The company's current valuation has also reached $100 million.

Не знаю, угрожает ли это NVIDIA, но капитал явно это поддерживает. (doge)

Если агент ИИ — это оружие для штурма города, то рынок выводов — это пробоина в стене.

Вычисления крупных моделей делятся на два этапа:

Обучение — это создание модели, для которого требуется тысячи процессоров, работающих совместно в течение нескольких месяцев; вывод — это использование уже обученной модели для ответов на вопросы, для этого достаточно небольшого кластера или даже одной карты.

На стороне обучения CUDA пока остается практически неразрешимой проблемой.

Масштабное обучение крайне чувствительно к производительности, стабильности и взаимодействию кластера. Коммуникация между чипами, управление видеопамятью, восстановление после ошибок в программе — любая потеря эффективности, масштабируемая на тысячи или даже десятки тысяч чипов, превращается в реальные потери времени и затрат.

Поэтому компании при выборе обучающей платформы часто крайне консервативны.

Даже если другие чипы имеют хорошие параметры на бумаге, недостаточная зрелость программного обеспечения и нестабильность кластера могут привести к тому, что экономия на аппаратных затратах будет компенсирована удвоенными затратами на разработку и ошибки.

Но на стороне вывода правила игры изменились.

Кевин Чой, главный коммерческий директор южнокорейской компании по производству ИИ-чипов Rebellions, считает:

На стороне вывода CUDA больше не является решающим фактором. Это будет конкуренция между открытым программным обеспечением.

Почему конкуренты все обратили внимание на выводы?

При обучении важна «максимальная производительность», а при выводе — «стоимость каждого ответа».

Обучение требует координации десятков тысяч чипов, а вывод можно распределить на небольшие кластеры или даже на один чип; при обучении не решаются менять чипы, но при выводе это возможно.

В любом случае, если это работает и недорого, клиенты готовы попробовать.

Более важно, что программное обеспечение для вывода может работать на различных чипах. Если фреймворк для вывода поддерживает несколько типов чипов, пользователи смогут переключаться между различным оборудованием, не переписывая код —

The largest lock-in effect of CUDA has now been nullified.

Это открывает возможности для специализированных чипов для вывода.

Задачи вывода не требуют полной мощности CUDA от обучения до кластерного взаимодействия. Чипы, специально разработанные для определенных моделей и сценариев, имеют шанс отобрать у NVIDIA часть рынка, если они обеспечивают более высокую скорость, более низкую стоимость или меньшее энергопотребление.

Например, d-Matrix — это компания, специализирующаяся на чипах для вывода.

Компания была основана в 2019 году и специализируется на чипах для генеративного ИИ-вывода.

Сид Шет, сооснователь и генеральный директор, вспоминал, что они давно пришли к выводу, что возможности, связанные с выводом ИИ, в конечном итоге превзойдут возможности обучения.

Infinity с помощью AI-агента за 10 часов создала программное обеспечение, аналогичное CUDA, которое обслуживает инференс-чипы d-Matrix.

Таким образом, полная история «события за 10 часов» складывается:

Новый чип хочет выйти на рынок инференса, но ему не хватает зрелого программного обеспечения; AI Agent быстро генерирует и оптимизирует базовые Kernel, сокращая адаптацию, которая раньше занимала месяцы или даже годы, до часов или дней.

Сид также открыто заявил:

Хотя NVIDIA сохраняет доминирующие позиции в области обучения, ее конкурентное преимущество в области вывода несколько ослабло.

На этот разрыв смотрят не только d-Matrix.

Разработки, ориентированные на выводы: Rebellions, d-Matrix; инвестиции в чипы на уровне вайфера: Cerebras; Inferentia от Amazon, TPU от Google, MI300X от AMD…

Различные производители чипов и гиганты облачных вычислений уже расставили силы на рынке инференса, готовясь отобрать у NVIDIA кусок рынка.

Эти компании не должны сразу заменять NVIDIA.

Им нужно лишь доказать, что при некоторых задачах вывода можно достичь более высокой скорости или более низкой стоимости, не полагаясь на полный набор аппаратного обеспечения NVIDIA и экосистему CUDA.

Этого достаточно.

Ответ может быть… далеко не тот.

Ранее уже говорилось, что за 10 часов было переписано «код адаптации для одного чипа», однако экосистема CUDA имеет 20 лет накопленных библиотек, инструментов отладки, сообщества и несколько миллионов разработчиков.

Это не так легко можно свергнуть.

Более важно, что генерация кода не означает его пригодность для использования.

Основатель INT21 Бин Сюй ранее работал в компании по разработке ПО для AI-чипов HippoML, которая была приобретена NVIDIA, и он покинул NVIDIA только в апреле этого года.

Его вывод: агент может генерировать большое количество кода за короткое время, но проверка является наибольшим узким местом.

Искусственный интеллект быстро генерирует десять тысяч строк кода, но «доказать, что эти десять тысяч строк корректно и стабильно работают во всех граничных случаях» — крайне медленно.

Самый глубокий актив CUDA — это его инструментарий для проверки — поэтому он считает, что в эпоху агентов экосистема проверки станет следующим барьером для CUDA.

Модульный сооснователь и генеральный директор Крис Латтнер также охладил энтузиазм.

Он считает, что улучшения, принесенные кодированием агентов, носят постепенный характер: «Хайп сильно преувеличен».

Причин три: во-первых, написание кода — это лишь небольшая часть программной инженерии, а оптимизация для промышленного использования определяет производительность чипа и напрямую влияет на стоимость запуска ИИ;

Во-вторых, программное обеспечение для чипов — это нишевая область для элитных специалистов, открытый код здесь значительно меньше, чем в прикладной разработке, и данных для обучения ИИ в этой области изначально мало;

В-третьих, стоимость миграции нескольких миллионов строк существующего кода по-прежнему сохраняется; это не техническая проблема, а вопрос организационного решения.

Еще один легко упускаемый момент: NVIDIA также использует ИИ.

Вице-президент экосистемы разработчиков NVIDIA Анкит Пател заявил:

Мы также используем AI Agent для более быстрой разработки CUDA и её проверки в более масштабных масштабах.

Своим копьем атаковать чужой щит — относительное преимущество атакующей стороны также снизится.

Бин Сюй подвел итог: исход этой битвы зависит от того, сможет ли конкурент догнать NVIDIA быстрее, чем NVIDIA будет совершенствовать себя.

Но очевидно, что этот крупнейший в мире производитель чипов «не спит и не стоит на месте».

В целом, в краткосрочной перспективе конкурентное преимущество NVIDIA остается неприкосновенным, но изменения сначала незаметно произойдут на стороне вывода.

Настоящая долгосрочная загадка заключается в том, что конкурентное преимущество переходит от «накопленного кода» к «экосистеме проверки и оптимизации».

Кто первым займет новое положение, тот и станет следующим победителем.

Ссылка для справки: [1] https://www.businessinsider.com/nvidia-cuda-new-threats-ai-coding-agents-2026-8

Эта статья взята из официального аккаунта WeChat «Quantum Bit», автор: Тинь Юй