AI-агент відтворив ПО, подібне до CUDA, за 10 годин, що спричинило дискусію

CUDA знову й знову була зламана…

Цього разу діють ті самі штучні інтелекти, яких виховала NVIDIA.

Мала компанія, заснована лише рік тому, за допомогою AI-програмного агента за 10 годин створила «програмне забезпечення, подібне до CUDA».

Зупиніться, зупиніться, зупиніться.

Ти маєш на увазі, що цю програмну імперію NVIDIA, яку будували майже 20 років, просто так скопіювали??

Це не все. DeepSeek Також намагаєтеся менше писати низькорівневий CUDA.

Вони відкрили код бібліотеки GPU-операторів під назвою TileKernels, написаної на TileLang, що дозволяє уникнути великої кількості ручного написання нижчорівневого CUDA-коду.

Але подібну «кризу CUDA» ми чуємо не вперше.

З певною періодичністю CUDA знову починають критикувати, стверджуючи, що вона вже замінена, пройдена, а її конкурентна перевага знову зруйнована…

Чи дійсно це так?

Коли згадують NVIDIA, багато хто першим думає про GPU.

H100, Blackwell, Rubin — завдяки поколінням чипів зі зростаючою продуктивністю, NVIDIA отримала найбільшу вигоду від цієї хвилі штучного інтелекту.

Але справжня незламна перевага NVIDIA — це не апаратне забезпечення, а програмне.

Чіпи можна купувати, параметри можна вдосконалювати, технологічні процеси також розвиватимуться. Те, що справді робить клієнтів залежними від NVIDIA і важким для них перехід на інші рішення, — це вся програмна екосистема, побудована навколо GPU.

А CUDA — це ядро цієї програмної імперії.

CUDA — це скорочення від Compute Unified Device Architecture, розроблена під керівництвом керівника NVIDIA Ієна Бака протягом майже 20 років.

Його часто називають мовою програмування, але точніше кажучи, CUDA — це ціла програмна платформа, побудована навколо GPU від NVIDIA.

Якщо спростити до трьох рівнів, найнижчий — це ядерний рівень, який безпосередньо керує чіпом через ядро, компілятор та середовище виконання.

Посередині — бібліотеки обчислень, такі як cuBLAS та cuDNN, високо оптимізовані, а також інструменти для налагодження, перевірки та аналізу продуктивності.

Зверху — це інфраструктури розробки, такі як PyTorch та TensorFlow, величезна кількість коду та робочих процесів, накопичених компаніями, а також екосистема розробників, що розвинулася навколо CUDA.

△

Це може звучати трохи абстрактно, але ви можете уявити GPU від NVIDIA як фабрику.

CUDA на найнижчому рівні відповідає за те, щоб повідомити машині, як виконувати кожен крок, середній рівень надає готові інструменти для виробництва, а найвищий рівень — ціла система виробництва, яка працює вже багато років.

Отже, для клієнта куплена не просто одна карта NVIDIA, а готова до використання фабрика.

Зараз до нас прийшов Джеремі Ніксон із AI Agent.

Ніксон — засновник AI-стартапу Infinity, раніше працював дослідником у Google Brain.

Його команда розробила AI-дослідницький агент під назвою Ignition, який спеціалізується на написанні низькорівневого програмного забезпечення для різних AI-чіпів.

Він може генерувати GPU Kernel, запускати тести, знаходити помилки, вимірювати продуктивність і автоматично переписувати код на основі результатів.

Людські інженери відповідають за визначення загальних напрямків, а всі нудні та вимогливі до мислення завдання передаються агентам для повторюваних циклів.

Ось і все, Infinity створила для стартапу у сфері AI-чіпів d-Matrix програмне забезпечення, подібне до CUDA, за допомогою Ignition.

Потрібно лише 10 годин.

А???

Чи можна тепер справді передати штучному інтелекту нижчий рівень коду, який раніше вимагав багаторазової налагодження інженерами-програмістами чіпів?

Це не можна назвати повністю шумихою.

AI-агент дійсно добре підходить для таких програмних завдань із чітким зворотним зв’язком.

Чи можна скомпілювати код, чи правильно обчислюються результати, чи покращилася продуктивність — на всі ці питання можна отримати відповідь шляхом реального виконання.

Отже, агент може сформувати повний цикл:

Написати код → скомпілювати → запустити → перевірити коректність та продуктивність → вносити зміни на основі зворотного зв’язку

Однак Infinity основною метою має перший рівень CUDA: генерацію та оптимізацію інференс-кернелів для різних чіпів та побудову нижчого рівня програмного забезпечення навколо цих кернелів.

Він розробляє універсальну бібліотеку висновку, призначену для різних чіпів, але це не означає, що він за 10 годин скопіював повну екосистему CUDA, яка накопичувалася протягом майже 20 років.

Але…

Але!

Ви насправді не повинні копіювати CUDA, щоб отримати фінансування в розмірі 15 мільйонів доларів США.

Оцінка цієї компанії зараз досягла 100 мільйонів доларів США.

Чи є загроза для NVIDIA — не знаю, але капітал явно це підтримує. (doge)

Якщо AI-агент — це засіб для штурму міста, то ринок міркувань — це пробоїна у стіні.

Обчислення великих моделей поділяється на дві основні частини:

Навчання — це створення моделі, для якого потрібно тисячі прискорювачів, що працюють разом протягом кількох місяців; висновок — це використання вже навченої моделі для відповідей на запитання, що може здійснюватися навіть на невеликому кластері або одній карті.

На стороні навчання CUDA залишається майже нерозв’язною.

Масштабне навчання надзвичайно чутливе до продуктивності, стабільності та взаємодії кластера. Комунікація між чіпами, планування відеопам’яті, відновлення після помилок — будь-яка втрата ефективності, масштабована на тисячі або десятки тисяч чіпів, перетворюється на реальні втрати часу та витрат.

Тому підприємства часто дуже обережно вибирають навчальні платформи.

Інші чіпи, навіть якщо їхні паперові параметри виглядають добре, якщо програмне забезпечення недостатньо досконале, а кластери нестабільні, економію на вартості апаратного забезпечення, швидше за все, доведеться відшкодувати подвоєною вартістю розробки та помилок.

Але на стороні висновків правила гри змінилися.

Керівник з бізнес-розвитку корейської компанії з AI-чіпами Rebellions Маршалл Чой вважає:

На стороні висновків CUDA більше не є вирішальним фактором. Це буде боротьба між відкритим програмним забезпеченням.

Чому конкуренти звернули увагу на висновки?

Під час навчання важлива «максимальна продуктивність», а під час виведення — «вартість кожного відповіді».

Навчання вимагає спільної роботи тисячі карт, а висновок можна розподілити на малих кластерах або навіть одній карті; для навчання не варто міняти чіпи, але для висновку це можливо.

В будь-якому випадку, якщо це працює і дешеве, клієнти готові спробувати.

Ще важливіше, що висновкове програмне забезпечення може працювати через кілька чіпів. Якщо висновкова платформа підтримує кілька чіпів, користувачі зможуть переключатися між різним апаратним забезпеченням, не переписуючи код —

Найбільший ефект прив’язки CUDA тепер припинив дію.

Це створює можливості для спеціалізованих чіпів для висновків.

Завдання виведення не вимагають повної потужності CUDA від навчання до взаємодії кластерів. Чіпи, розроблені спеціально для певних моделей та сценаріїв, якщо вони дозволяють працювати швидше, дешевше або ефективніше за енергоспоживанням, мають можливість відібрати частину ринку від NVIDIA.

Наприклад, d-Matrix — це компанія, яка спеціалізується на чіпах для висновків.

Компанія була заснована в 2019 році і спеціалізується на чіпах для інференсу генеративного ШІ.

Засновник і генеральний директор Сід Шет згадував, що вони дуже рано зрозуміли, що можливості, пов’язані з висновуванням ШІ, в кінцевому підсумку перевищать можливості навчання.

Infinity за допомогою AI-агентів за 10 годин створила програмне забезпечення, подібне до CUDA, яке обслуговує інференс-чіпи d-Matrix.

Таким чином, повна історія «події за 10 годин» складається цілком:

Новий чіп хоче увійти на ринок висновків, але йому не вистачає зрілої програмної підтримки; AI Agent швидко генерує та оптимізує нижчі Kernel, зменшуючи час адаптації, який раніше міг тривати місяці або навіть роки, до годин або днів.

Сід також відкрито сказав:

Хоча NVIDIA зберігає домінування в сфері навчання, її конкурентна перевага в сфері висновків зменшилася.

На цей розрив орієнтуються не лише d-Matrix.

Ревелліонс і d-Matrix, що зосереджуються на виведенні, Cerebras, що робить ставку на чіпи на рівні вугілля, Inferentia від Amazon, TPU від Google, MI300X від AMD…

Різні виробники чіпів та гіганти хмарних обчислень вже розгорнули свої сили на ринку висновків, готуючись відібрати у NVIDIA частину ринку.

Цим компаніям не потрібно негайно замінювати NVIDIA.

Їм потрібно лише довести, що в деяких завданнях міркування можна виконувати швидше або дешевше, не використовуючи повний набір апаратного забезпечення NVIDIA та екосистему CUDA.

Цього достатньо.

Відповідь може бути… дуже далеко.

Раніше ми зазначали, що за 10 годин було переписано «код адаптації для одного чіпа», але екосистема CUDA має 20 років накопичення бібліотек, інструментів налагодження, спільноти та мільйони розробників.

Це не можна легко зруйнувати.

Ще важливіше: те, що код можна згенерувати, не означає, що він працює.

Засновник INT21 Бін Сюй, попередня компанія з програмного забезпечення для AI-чіпів HippoML була придбана NVIDIA, а він сам залишив NVIDIA у квітні цього року.

Його висновок: агент може за короткий час згенерувати велику кількість коду, але перевірка є найбільшим обмеженням.

Штучний інтелект швидко генерує десять тисяч рядків коду, але «довести, що ці десять тисяч рядків правильно обчислюють і стабільно працюють у всіх граничних випадках» — дуже повільно.

Найглибшим активом CUDA є саме його інструментарій верифікації — тому він вважає, що в епоху агентів екосистема верифікації стане наступною бар’єрою CUDA.

Модулярний співзасновник і генеральний директор Кріс Латтнер також охолодив ентузіазм.

Він вважає, що покращення, запроваджені за допомогою кодування агента, є поступовими, а «шум навколо цього сильно переоцінений».

Причин три: по-перше, написання коду — це лише невелика частина програмної інженерії, а оптимізація для виробничого використання визначає продуктивність чіпа і безпосередньо впливає на витрати на запуск ШІ;

Друге, програмне забезпечення чіпів — це нишеве поле для еліти, відкритого коду значно менше, ніж у розробці додатків, і для ШІ тут і так мало навчальних даних;

Третє, витрати на міграцію мільйонів рядків існуючого коду все ще присутні — це не проблема, яку можна вирішити за допомогою технологій, а питання організаційного рішення.

Ще один момент, який часто не враховують: NVIDIA також використовує ШІ.

Віце-президент екосистеми розробників NVIDIA Анкіт Пател сказав:

Ми також використовуємо AI Agent для швидшого розроблення CUDA та його перевірки у більшому масштабі.

Використовуючи власне спис, атакувати чужий щит, відносна перевага атакуючої сторони також зменшується.

Бін Сюй підсумував: результат цієї битви залежить від того, чи зможуть конкуренти наздогнати NVIDIA швидше, ніж NVIDIA здатна сама себе ітерувати.

Але зрозуміло, що цей найбільший у світі виробник чіпів «не спить і не стоїть на місці».

Загалом, у короткостроковій перспективі конкурентна перевага NVIDIA залишається незрушенною, але зміни спочатку тихо відбудуться на стороні висновків.

Справжнім довгостроковим питанням є: рівнини переходять від «кодового запасу» до «екосистеми верифікації та оптимізації».

Хто перший займе нове місце, той і буде наступним переможцем.

Посилання для довідки: [1] https://www.businessinsider.com/nvidia-cuda-new-threats-ai-coding-agents-2026-8

Цей текст походить від офіційного аккаунту WeChat «Quantum Bit», автор: Тін Юй