एआई एजेंट ने 10 घंटे में कुडा-जैसा सॉफ्टवेयर की प्रतिलिपि बना दी, जिससे बहस शुरू हो गई

CUDA फिर से क्रश हो गया...

इस बार कार्रवाई करने वाला, न्वीडिया द्वारा सीधे पाला गया AI ही है।

एक केवल एक वर्ष पुरानी छोटी कंपनी ने AI प्रोग्रामिंग एजेंट का उपयोग करके केवल 10 घंटे में एक «CUDA-जैसा सॉफ्टवेयर» बना दिया।

रुको, रुको, रुको।

क्या आप कह रहे हैं कि निविडा द्वारा लगभग 20 वर्षों में बनाया गया यह सॉफ्टवेयर साम्राज्य इतनी आसानी से नकल कर लिया गया?

इससे भी अधिक। DeepSeek कम से कम CUDA लो-लेवल कोड लिखने की कोशिश भी कर रहे हैं।

उन्होंने TileLang का उपयोग करके TileKernels नामक एक GPU ऑपरेटर लाइब्रेरी ओपन सोर्स कर दी है, जिससे कई हाथ से लिखे गए निचले स्तर के CUDA कोड की आवश्यकता नहीं रह जाती।

हालांकि, ऐसी "CUDA संकट" की बात हम पहले भी सुन चुके हैं।

कभी-कभी CUDA को बार-बार निकालकर पीटा जाता है, इसे बदल दिया जाने का, इसकी सीमाओं को तोड़ दिया जाने का, और इसकी सुरक्षा की दीवार को उलट दिया जाने का आरोप लगाया जाता है…

Is this really true?

निवेडिया का उल्लेख करते ही बहुत से लोगों की पहली प्रतिक्रिया GPU होती है।

H100, Blackwell, Rubin, एक-एक करके अधिक शक्तिशाली चिप्स के साथ, न्वीडिया ने इस AI लहर का सबसे बड़ा लाभ उठाया।

लेकिन निविडा का वास्तविक कठिन रूप से चुनौती देने योग्य लाभ, हार्डवेयर नहीं, बल्कि सॉफ्टवेयर है।

चिप खरीदे जा सकते हैं, पैरामीटर अपग्रेड किए जा सकते हैं, और प्रक्रिया भी विकसित होती रहेगी। वास्तविक रूप से ग्राहकों को निकट से बांधे रखने वाली चीज, जिसके कारण वे निकेडिया का उपयोग करने के बाद बदलने में कठिनाई महसूस करते हैं, GPU पर आधारित पूरा सॉफ्टवेयर पारिस्थितिकी है।

और CUDA, यही इस सॉफ्टवेयर साम्राज्य का केंद्र है।

CUDA का पूरा नाम Compute Unified Device Architecture है, जिसे निवेडिया के अधिकारी इयान बक के नेतृत्व में लगभग 20 साल का समय लगाकर बनाया गया।

इसे अक्सर प्रोग्रामिंग भाषा कहा जाता है, लेकिन अधिक सटीक रूप से, CUDA निवेडिया GPU पर आधारित एक पूरा सॉफ्टवेयर प्लेटफॉर्म है।

यदि इसे सरलता से तीन स्तरों में विभाजित किया जाए, तो सबसे नीचे कर्नेल स्तर होता है, जो चिप को सीधे काम करने के लिए Kernel, कंपाइलर और रनटाइम को शामिल करता है।

मध्य में कुछ अत्यधिक अनुकूलित गणना पुस्तकालय हैं—cuBLAS, cuDNN आदि—और डीबगिंग, पुष्टि और प्रदर्शन विश्लेषण उपकरण।

सबसे ऊपर, PyTorch, TensorFlow आदि विकास ढांचे, उद्यमों द्वारा एकत्रित विशाल कोड और कार्यप्रवाह, और CUDA के चारों ओर विकसित डेवलपर इकोसिस्टम हैं।

△

यह थोड़ा अमूर्त लग सकता है, लेकिन आप NVIDIA GPU को एक कारखाने के रूप में कल्पना कर सकते हैं।

CUDA का सबसे निचला स्तर मशीन को हर कदम पर क्या करना है, यह बताता है, मध्य स्तर पर तैयार उत्पादन उपकरण उपलब्ध होते हैं, और सबसे ऊपरी स्तर पर कई वर्षों से चल रही एक पूरी उत्पादन प्रणाली होती है।

इसलिए, ग्राहकों के लिए, वे केवल एक निवेडिया कार्ड ही नहीं, बल्कि एक बंद-करने-योग्य कारखाना खरीद रहे हैं।

अब, जेरेमी निक्सन नाम के एक भाई ने AI एजेंट लाया है।

निक्सन AI सॉफ्टवेयर स्टार्टअप इनफिनिटी के संस्थापक हैं और पहले गूगल ब्रेन में शोधकर्ता रह चुके हैं।

उसकी टीम ने एक AI अनुसंधान एजेंट विकसित किया है, जिसका नाम Ignition है, जो विभिन्न AI चिप्स के लिए निचले स्तर के सॉफ्टवेयर लिखने के लिए विशेष रूप से डिज़ाइन किया गया है।

यह GPU Kernel उत्पन्न कर सकता है, परीक्षण चला सकता है, त्रुटियाँ ढूंढ सकता है, प्रदर्शन माप सकता है, और परिणामों के आधार पर कोड को स्वचालित रूप से पुनः लिख सकता है।

मानव इंजीनियर उच्च स्तरीय दिशा निर्धारित करते हैं, और शेष थोड़े जटिल और मानसिक रूप से थका देने वाले कार्यों को Agent को बार-बार चलाने के लिए छोड़ देते हैं।

इसी तरह, Infinity ने AI चिप स्टार्टअप d-Matrix के लिए Ignition का उपयोग करके एक CUDA-जैसा सॉफ्टवेयर बनाया।

केवल 10 घंटे लगे।

अ?

क्या वे निचले स्तर के कोड, जिन्हें पहले चिप सॉफ्टवेयर इंजीनियर्स को बार-बार डीबग करना पड़ता था, अब वास्तव में AI को सौंपे जा सकते हैं?

यह सिर्फ बवासीर नहीं कहा जा सकता।

AI एजेंट वास्तव में इस प्रकार के स्पष्ट प्रतिक्रिया वाले प्रोग्रामिंग कार्यों के लिए उपयुक्त है।

कोड कंपाइल हो सकता है या नहीं, परिणाम सही हैं या नहीं, और प्रदर्शन में सुधार हुआ है या नहीं, इन सभी प्रश्नों के उत्तर वास्तविक रन से प्राप्त किए जा सकते हैं।

इसलिए, एजेंट एक पूर्ण बंद चक्र बना सकता है:

कोड लिखें → कंपाइल करें → चलाएं → सहीता और प्रदर्शन की जांच करें → प्रतिक्रिया के आधार पर संशोधित करते रहें

हालांकि, Infinity मुख्य रूप से CUDA की पहली परत में प्रवेश करता है: विभिन्न चिप्स के लिए इन्फरेंस कर्नेल उत्पन्न करना और उन्हें अनुकूलित करना, और इन कर्नेल्स के आसपास निचले स्तर की सॉफ्टवेयर क्षमताएँ बनाना।

यह कई चिप्स के लिए एक सामान्य निष्कर्षण पुस्तकालय विकसित कर रहा है, लेकिन इसका अर्थ यह नहीं है कि यह 10 घंटे में CUDA के लगभग 20 वर्षों के समग्र पारिस्थितिकी को प्रतिलिपि कर रहा है।

लेकिन…

लेकिन!

आपको 1500 डॉलर की फंडिंग प्राप्त करने के लिए CUDA कॉपी करने की आवश्यकता नहीं है।

This company's current valuation has also reached $100 million.

मुझे नहीं पता कि क्या निवेशकों को खतरा है, लेकिन पूंजी काफी सकारात्मक प्रतिक्रिया दे रही है। (doge)

अगर एआई एजेंट शहर के दरवाजे तोड़ने का हथियार है, तो रीजनिंग मार्केट दीवार पर खुला दरवाजा है।

बड़े मॉडल की गणना मुख्य रूप से दो भागों में विभाजित होती है:

ट्रेनिंग मॉडल बनाने के लिए होती है, जिसमें हजारों GPU को मिलकर कई महीने तक चलाना पड़ता है; इन्फरेंस ट्रेन किए गए मॉडल का उपयोग प्रश्नों के उत्तर देने के लिए किया जाता है, जिसे छोटे क्लस्टर या एकल GPU से चलाया जा सकता है।

ट्रेनिंग साइड पर, CUDA अभी भी लगभग अविभाज्य है।

बड़े पैमाने पर प्रशिक्षण प्रदर्शन, स्थिरता और क्लस्टर सहयोग के लिए अत्यंत संवेदनशील है। चिप्स के बीच संचार, वीडियो मेमोरी का स्केड्यूलिंग, और त्रुटि के बाद पुनर्प्राप्ति—किसी भी एक दक्षता की हानि, हजारों या लाखों चिप्स पर बढ़ जाने पर, वास्तविक समय और लागत में बदल जाती है।

इसलिए, उद्यम अक्सर प्रशिक्षण प्लेटफॉर्म चुनते समय अत्यंत सावधान रहते हैं।

अन्य चिप्स जिनके कागज पर पैरामीटर अच्छे हों, लेकिन जिनका सॉफ्टवेयर पर्याप्त रूप से परिपक्व न हो या क्लस्टर पर्याप्त रूप से स्थिर न हो, उनसे बचाए गए हार्डवेयर लागत को विकास और प्रयोग-त्रुटि लागत में दोगुना वापस चुकाना पड़ सकता है।

लेकिन निष्कर्ष ओर, खेल के नियम बदल गए हैं।

कोरियाई AI चिप कंपनी Rebellions के मुख्य व्यापार अधिकारी मार्शल चॉय का मानना है:

रीजनिंग साइड पर, CUDA अब निर्णायक नहीं है। यह ओपन सोर्स सॉफ्टवेयर की प्रतिस्पर्धा होगी।

क्यों प्रतियोगी निष्कर्ष निकालने पर ध्यान केंद्रित कर रहे हैं?

क्योंकि प्रशिक्षण "अत्यधिक प्रदर्शन" पर ध्यान केंद्रित करता है, जबकि निष्कर्षण "प्रत्येक उत्तर की लागत" पर ध्यान केंद्रित करता है।

ट्रेनिंग के लिए लाखों कार्ड्स की सहायता की आवश्यकता होती है, लेकिन इन्फरेंस को छोटे क्लस्टर या एकल कार्ड पर विभाजित किया जा सकता है; ट्रेनिंग में चिप बदलने का साहस नहीं किया जाता, लेकिन इन्फरेंस में किया जा सकता है।

जब तक यह चलता है और सस्ता है, ग्राहक प्रयास करने को तैयार होते हैं।

अधिक महत्वपूर्ण बात यह है कि निष्कर्ष निकालने वाला सॉफ्टवेयर विभिन्न चिप्स पर चल सकता है। यदि निष्कर्ष निकालने का ढांचा कई चिप्स का समर्थन करता है, तो उपयोगकर्ता अलग-अलग हार्डवेयर के बीच स्विच कर सकते हैं, बिना कोड को पुनः लिखे—

CUDA's largest lock-in effect is now nullified.

This creates an opportunity for dedicated inference chips.

रीजनिंग टास्क को ट्रेनिंग से लेकर क्लस्टर कोऑर्डिनेशन तक की CUDA की पूरी क्षमता की आवश्यकता नहीं होती। विशिष्ट मॉडल और विशिष्ट परिदृश्य के लिए पुनः डिज़ाइन किए गए चिप, जो अधिक तेज़, सस्ते या अधिक बिजली बचाने वाले हों, उनके पास निवेडिया से बाजार का एक हिस्सा प्राप्त करने का मौका है।

जैसे d-Matrix, जो स्वयं एक निष्कर्षण पर आधारित चिप कंपनी है।

यह कंपनी 2019 में स्थापित की गई थी और इसका मुख्य ध्यान जनरेटिव AI निष्कर्षण चिप्स पर है।

संस्थापक और सीईओ सिद शेथ ने याद किया कि उन्होंने बहुत जल्दी ही अनुमान लगाया कि AI निष्कर्षण से उत्पन्न अवसर अंततः प्रशिक्षण को पार कर जाएंगे।

इनफिनिटी ने AI एजेंट का उपयोग करके 10 घंटे में d-Matrix के इन्फरेंस चिप के लिए CUDA-जैसा सॉफ्टवेयर बनाया।

इसलिए, "10 घंटे की घटना" की पूरी कहानी एक साथ आ जाती है:

नया चिप निष्कर्षण बाजार में प्रवेश करना चाहता है, लेकिन परिपक्व सॉफ्टवेयर की कमी है; AI एजेंट नीचे के Kernel को त्वरित रूप से उत्पन्न और अनुकूलित करता है, जिससे महीनों या वर्षों का समय लगने वाला अनुकूलन कार्य घंटों या दिनों में समाप्त हो जाता है।

सिद ने सीधे कह दिया:

हालांकि निविडा ट्रेनिंग क्षेत्र में शीर्ष स्थिति बनाए हुए है, लेकिन इन्फरेंस के मामले में इसकी प्रतिस्पर्धी बाधा कमजोर हो गई है।

इस अंतर को देख रही केवल d-Matrix ही नहीं है।

रीबेलियंस, d-Matrix जो रीजनिंग पर ध्यान केंद्रित करते हैं, क्रिस्टल स्तर के चिप्स पर निवेश करने वाला Cerebras, अमेज़न का Inferentia, गूगल का TPU, AMD का MI300X...

सभी चिप निर्माता और क्लाउड कंप्यूटिंग विशालकाय, पहले से ही इन्वेडिया से एक टुकड़ा पकड़ने के लिए निष्कर्षण बाजार में तैनात हो चुके हैं।

इन कंपनियों के लिए, उन्हें तुरंत निवेडिया को बदलने की आवश्यकता नहीं है।

उन्हें बस यह साबित करना है कि कुछ तर्क संबंधी कार्यों में, नाइडिया के पूरे हार्डवेयर और CUDA इकोसिस्टम पर निर्भर किए बिना, इसे तेज़ या सस्ता चलाया जा सकता है।

That's enough.

The answer might be… still far off.

पहले भी कहा गया था कि 10 घंटे में लिखा गया था «एक चिप के लिए अनुकूलन कोड»। जबकि CUDA इकोसिस्टम में 20 साल की जमा हुई किताबें, डीबगिंग टूल्स, समुदाय और करोड़ों डेवलपर्स हैं।

इसे आसानी से उलटा नहीं जा सकता।

अधिक महत्वपूर्ण बात यह है कि कोड बनाया जा सकता है, लेकिन इसका उपयोग किया जा सकता है।

INT21 के संस्थापक बिंग जू, पिछली AI चिप सॉफ्टवेयर कंपनी HippoML को निवेडिया ने अधिग्रहित किया था, और वह इस वर्ष अप्रैल में ही निवेडिया छोड़े।

उसका निर्णय है: एजेंट छोटे समय में बहुत सारा कोड उत्पन्न कर सकता है, लेकिन सत्यापन सबसे बड़ी बाधा है।

AI एक लाख पंक्तियों का कोड जल्दी बना सकता है, लेकिन "साबित करना कि यह एक लाख पंक्तियाँ सभी सीमा स्थितियों में सही गणना करती हैं और स्थिर रूप से चलती हैं" बहुत धीमा है।

CUDA की सबसे गहरी संपत्ति ठीक उसका प्रमाणीकरण टूलचेन है—इसलिए वह मानता है कि एजेंट युग में, प्रमाणीकरण पारिस्थितिकी CUDA की अगली खाई बन जाएगी।

मॉड्यूलर के सह-स्थापक और सीईओ क्रिस लैटनर ने भी एक बाल्टी पानी उड़ेल दिया।

He believes the improvements brought by coding agents are incremental, and "the hype has been greatly exaggerated."

कारण तीन हैं: पहला, कोड लिखना सॉफ्टवेयर इंजीनियरिंग का केवल एक छोटा हिस्सा है, उत्पादन-स्तर का अनुकूलन ही चिप के प्रदर्शन को निर्धारित करता है, जो AI चलाने की लागत को सीधे प्रभावित करता है;

दूसरा, चिप सॉफ्टवेयर एक छोटे विशेषज्ञ क्षेत्र है, जहाँ ओपन सोर्स कोड ऐप डेवलपमेंट की तुलना में काफी कम है; इस क्षेत्र में AI के लिए ट्रेनिंग डेटा कम से कम है;

तीसरा, लाखों पंक्तियों के मौजूदा कोड के स्थानांतरण की लागत अभी भी मौजूद है, यह तकनीकी समस्या नहीं है, बल्कि एक संगठनात्मक निर्णय है।

एक और छोटी सी बात जिसकी आमतौर पर नजरअंदाज की जाती है: निविडा स्वयं AI का उपयोग कर रही है।

नवीडिया डेवलपर इकोसिस्टम के वाइस प्रेसिडेंट अंकित पटेल कहते हैं:

हम CUDA के विकास को तेज़ करने और बड़े पैमाने पर सत्यापन करने के लिए AI एजेंट का भी उपयोग कर रहे हैं।

अपनी भाले से दूसरे के ढाल को चुनौती देने पर, हमलावर का सापेक्ष लाभ कम हो जाता है।

बिंग ज़ू के अनुसार: इस लड़ाई का नतीजा इस बात पर निर्भर करता है कि प्रतिद्वंद्वी निवेडा को पीछे करने की गति, निवेडा की अपनी खुद की बार-बार सुधार की गति से तेज़ हो पाएगी या नहीं।

लेकिन स्पष्ट है कि इस वैश्विक सबसे बड़े चिप निर्माता ने “न तो सोया है और न ही एक ही जगह पर खड़ा है”。

सामान्य तौर पर, अल्पकालिक रूप से निविडा का व्यापारिक लाभ सुरक्षित है, लेकिन परिवर्तन अभी निष्कर्षण पक्ष पर चुपचाप शुरू होंगे।

लंबे समय तक का वास्तविक प्रश्न यह है: बाध्यता 'कोड के स्टॉक' से 'प्रमाणीकरण और अनुकूलन के पारिस्थितिकी' में स्थानांतरित हो रही है।

जो पहले नई जगह पर कब्जा कर लेगा, वही अगला विजेता होगा।

संदर्भ लिंक: [1] https://www.businessinsider.com/nvidia-cuda-new-threats-ai-coding-agents-2026-8

यह लेख वेचेन ग्रुप "क्वांटम बिट" से आया है, लेखक: तिंग यू