हुआवेई ने IJCAI 2026 में चार पेपर्स को स्वीकार किया, जिससे AI की तकनीकी प्रवृत्ति "स्केल डेंसिटी" से "डिज़ाइन डेंसिटी" की ओर जाने का प्रदर्शन हुआ।

लेखक, स्रोत: लेफेंगवेन

AI वास्तविक परिदृश्यों की ओर बढ़ रहा है, प्रणालीगत इंजीनियरिंग क्षमता, बाधा है, साथ ही एक छेद है।

IJCAI-ECAI 2026 का आयोजन 15 से 21 अगस्त, 2026 के बीच जर्मनी के ब्रेमन में किया जाएगा। AI क्षेत्र की एक समग्र शीर्ष सम्मेलन के रूप में, IJCAI हमेशा विभिन्न कंपनियों के पिछले वर्ष के अग्रणी शोध परिणामों की जांच का महत्वपूर्ण मापदंड रहा है: कौन किस दिशा में वास्तविक प्रगति कर रहा है, कौन सी तकनीकी दिशाएँ सहमति में आ रही हैं—ये सभी प्रश्नों के लिए पेपर सबसे सीधा उत्तर हैं।

कॉन्फ्रेंस के आयोजन के समय, AI टेक रिव्यू भी इस शीर्ष कॉन्फ्रेंस में सम्मिलित पेपर्स का प्रणालीगत स्कैन कर रहा है, ताकि तकनीकी प्रवृत्तियों और उद्योग की दिशा को पकड़ा जा सके।

एक स्पष्ट प्रवृत्ति है: AI की गणना लागत उच्च स्तर पर बनी हुई है, और पैरामीटर स्केल के विस्तार से मिलने वाला सीमांत लाभ अब सीमांत लागत के साथ नहीं बढ़ पा रहा है। यह आर्थिक वास्तविकता तकनीकी नवाचार के तर्क को पुनर्गठित कर रही है—“क्या हम इसे और बड़ा बना सकते हैं?” से “क्या हम इसे अधिक कुशलता से उपयोग कर सकते हैं?” की ओर।

हुआवेई द्वारा IJCAI 2026 में सम्मिलित चार पेपर्स इस दिशा के लिए तकनीकी मार्गदर्शन प्रदान करते हैं: डेटा की कमी की सीमा को कम करने के लिए अधिक उन्नत आर्किटेक्चर डिज़ाइन और प्रशिक्षण रणनीतियों का उपयोग करके, प्रति यूनिट कैलकुलेशन अधिक बुद्धिमत्ता प्राप्त करना।

इस तकनीकी दृष्टिकोण के परिवर्तन ने AI के व्यावहारिक अपनाने में हो रहे गहन परिवर्तनों को भी दर्शाया है: जब तकनीक लैब से बाहर निकलती है, तो प्रतिस्पर्धा अब केवल किसी एक क्षमता के एकल ब्रेकथ्रू की नहीं, बल्कि सटीकता, सामान्यीकरण, डेटा और कैलकुलेशन पावर के बीच के सिस्टमैटिक समन्वय की होती है—प्रत्येक चरण संभवतः बॉटलनेक बन सकता है, और संभवतः ब्रेकथ्रू भी।

नीचे दिए गए चार शोध पत्र, ठीक इन चार दिशाओं से हुआवे की प्रणालीगत इंजीनियरिंग क्षमता और तकनीकी चयन को दर्शाते हैं।

01 Breaking the Scale Barrier: Architecture + Training, Redefining the Capability Limits of Hierarchical ViT

विजुअल बेस्ड मॉडल के स्केलिंग प्रतियोगिता में, हमेशा एक अदृश्य “छत” मौजूद रही है। सामान्य ViT की स्केलिंग लगातार आगे बढ़ रही है, 6B से 22B तक सीमाओं को नए रिकॉर्ड से तोड़ते हुए। लेकिन हाइरार्किकल ViT हमेशा 2B पैरामीटर के नीचे ही फंसी रही है। यह बड़ा नहीं बनना चाहती, बल्कि बड़ी नहीं बन पाती। हाइरार्किकल मॉडल को डेटा और ट्रेनिंग स्ट्रैटेजी की सामान्य ViT की तुलना में कहीं अधिक आवश्यकता होती है, और सामान्य ViT की स्केलिंग योजना को सीधे लागू करने से काम नहीं चलता। इससे एक संरचनात्मक विरोधाभास पैदा होता है—हाइरार्किकल ViT प्राकृतिक रूप से मल्टी-स्केल प्रतिनिधित्व और घनत्वपूर्ण प्रेडिक्शन कार्यों (ऑब्जेक्ट डिटेक्शन, सेगमेंटेशन, वीडियो समझ) में कुशल होती है, लेकिन इसका स्केल नहीं बढ़ पाता, जिससे इसकी क्षमता की सीमा बंद हो जाती है।

हुआवेई टीम द्वारा लिखित यह पेपर, “Distilling and Scaling Hierarchical Vision Transformer to 30B Parameters”, आकार की सीमा को 2B से सीधे 30B तक बढ़ा देता है।

कैसे संभव हुआ? जवाब है कि मॉडल आर्किटेक्चर और ट्रेनिंग स्ट्रैटेजी दोनों को पुनः डिज़ाइन किया गया, और दोनों अनिवार्य हैं।

केंद्रीय डिजाइन एफिशिएंट हाइरार्किकल ViT आर्किटेक्चर है। यह बहु-स्केल फीचर एक्सट्रैक्शन क्षमता को बनाए रखते हुए कैलकुलेशन दक्षता को भी ध्यान में रखता है।

इस आर्किटेक्चर के आधार पर, टीम ने 200M से 5B पैरामीटर तक के घने मॉडल को प्रशिक्षित किया और स्पार्स स्पेशलिस्ट मिक्सचर (SMoE) वेरिएंट को शामिल किया, जिससे कुल पैरामीटर की संख्या 30B तक पहुँच गई—यह अब तक के हिसाब से हियरार्किकल ViT क्षेत्र में सबसे बड़ा खुला पैरामीटर स्केल है।

प्रशिक्षण के लिए, टीम ने एक दो-चरणीय प्रक्रिया डिज़ाइन की:

प्रारंभिक चरण में, ImageNet-21K पर MAE स्व-नियंत्रित पूर्व-प्रशिक्षण किया जाता है, ताकि मॉडल दृश्य प्रतिनिधित्व के मूल नियमों को सीख सके;

दूसरे चरण में, 27 मिलियन छवि डेटासेट पर, कई उन्नत सामान्य आधार मॉडल से ज्ञान का अपवाह करके क्षमता में छलांग लगाई गई।

परिणाम सबसे मजबूत साक्ष्य प्रदान करते हैं। ImageNet-1K रेखीय मूल्यांकन में, कुल 30B पैरामीटर वाले MoE मॉडल (EHV-5B-MoE) ने केवल 6.7B पैरामीटर सक्रिय करके 89.0% की सटीकता के साथ EVA-CLIP-18B जैसे अधिक कुल पैरामीटर वाले ViT आधारित मॉडल को पार कर दिया। इसके अलावा, इसका प्रदर्शन सिर्फ छवि वर्गीकरण तक ही सीमित नहीं है—वीडियो विश्लेषण और घनत्वपूर्ण भविष्यवाणी कार्यों में भी यह उत्कृष्ट प्रदर्शन करता है। इससे स्पष्ट होता है कि EHV सिर्फ वर्गीकरण विशेषताएँ ही नहीं सीखता, बल्कि वास्तविक उच्च गुणवत्ता वाली, सामान्यीकृत दृश्य प्रतिनिधित्व सीखता है।

हुआवेई टीम ने इस कार्य के माध्यम से साबित किया कि हाइरार्किकल ViT केवल बड़ा ही नहीं बनाया जा सकता, बल्कि इन्फरेंस पक्ष पर भी कम एक्टिवेशन पैरामीटर के साथ अधिक सटीकता प्राप्त की जा सकती है। आर्किटेक्चर डिज़ाइन मॉडल की क्षमता की सीमा निर्धारित करता है, जबकि ट्रेनिंग स्ट्रैटेजी यह तय करती है कि यह सीमा कितनी अधिक उजागर की जा सकती है।

02 प्री-फिल्टरिंग इनपुट: लर्नेबल फ्रेम सिलेक्टर का पैराडाइम इनोवेशन

मॉडल बेस की छत ऊपर उठ गई है, लेकिन कैलकुलेशन की खपत केवल मॉडल में ही सीमित नहीं है; मॉडल को दिए जाने वाले डेटा द्वारा भी कैलकुलेशन संसाधनों का बड़ा हिस्सा खपत हो रहा है। वीडियो-बड़े भाषा मॉडल (Video-LLMs) वीडियो को प्रोसेस करते समय, कैलकुलेशन लागत मुख्य रूप से फ्रेम एन्कोडिंग पर खर्च होती है। लागत को नियंत्रित करने के लिए, मौजूदा मॉडल लगभग सभी समान नमूना लेते हैं—समान अंतराल पर फ्रेम निकालना।

हालाँकि, वीडियो में महत्वपूर्ण घटनाएँ कभी समान रूप से वितरित नहीं होतीं। एक महत्वपूर्ण क्रिया केवल एक या दो सेकंड तक चल सकती है, और यदि यह दो नमूना बिंदुओं के बीच आ जाती है, तो इसे पूरी तरह से छोड़ दिया जाता है। इसके विपरीत, लंबे स्थिर दृश्यों को बार-बार कोडित किया जाता है, जिससे कीमती कंप्यूटेशनल संसाधन बर्बाद होते हैं।

एक अन्य दृष्टिकोण प्रश्न-आधारित विधि है—जिसमें विशिष्ट प्रश्न के आधार पर संबंधित फ्रेम्स को खोजा जाता है। यह वीडियो प्रश्नोत्तर परिदृश्य में प्रभावी है, लेकिन विस्तृत वीडियो वर्णन एक “बिना प्रश्न” टास्क है, जहाँ यह विधि काम नहीं करती।

यूनिफॉर्म सैम्पलिंग बहुत ग्रूस है, और क्वेरी-ड्रिवन तरीके काम नहीं करते। इसका समाधान क्या है? हुआवेई AI डेटा टीम द्वारा प्रस्तावित लर्नेबल फ्रेम सिलेक्टर (LFS) इस समस्या को हल करने का प्रयास करता है।

पेपर का लिंक: https://arxiv.org/pdf/2601.14594v1

उनका मूल विचार सीधा है: फ्रेम चुनने के लिए मानव-निर्धारित नियमों के बजाय, मॉडल को खुद सीखने दें कि "क्या देखना है।"

यह एक "अंत से शुरुआत करने" का प्रशिक्षण दृष्टिकोण है, LFS अब "कुछ मध्यवर्ती स्कोर पर कौन से फ्रेम अधिक उच्च हैं" सीखने के बजाय, यह यह सीखता है कि "कौन से फ्रेम बड़े मॉडल को बेहतर विवरण लिखने में सक्षम बनाते हैं"। इसे विस्तार से कैसे किया जाता है? तीन मुख्य डिजाइन:

सबसे पहले, प्रत्येक फ्रेम को एक "घटना महत्व" स्कोर देने के लिए एक स्कोरिंग नेटवर्क प्रशिक्षित करें।

दूसरा, पूरे वीडियो को सॉर्ट करने के बजाय अवधियों में फ्रेम चुनें। फ्रेम चुनते समय सिर्फ “सबसे अधिक स्कोर वाले K फ्रेम” का उपयोग न करें, बल्कि पूरे वीडियो को कई समय अवधियों में विभाजित करें और प्रत्येक अवधि में सबसे महत्वपूर्ण फ्रेम चुनें। इससे महत्वपूर्ण घटनाओं को पकड़ा जा सकता है और समय अक्ष पर फ्रेम का समान वितरण सुनिश्चित होता है।

तीसरा, और सबसे महत्वपूर्ण कदम—प्रशिक्षण विधि। LFS फ्रेम चुनने के बाद, उन्हें फ्रीज किए गए Video-LLM को देता है जो वर्णन उत्पन्न करता है, फिर उत्पन्न वर्णन की तुलना मानव द्वारा अंकित मानक वर्णनों से करके हानि की गणना करता है, और फिर फ्रेम चयनकर्ता के पैरामीटर को अपडेट करने के लिए प्रतिप्रसरण करता है। पूरी प्रक्रिया में बड़ी भाषा मॉडल स्वयं एक भी कदम नहीं बढ़ाता, LFS एक प्लग-एंड-प्ले एक्सट्रा मॉड्यूल की तरह काम करता है।

इसके अलावा, अनुसंधान टीम ने एक समस्या का पता लगाया: मौजूदा विस्तृत वीडियो विवरण बेंचमार्क और मानवीय वास्तविक ज्ञान के बीच काफी अंतर है। इसलिए, उन्होंने एक नया बेंचमार्क ICH-CC बनाया, जिसमें सभी वीडियो चीनी अदृश्य सांस्कृतिक विरासत पकवानों के वास्तविक व्यावसायिक स्थितियों (जैसे रेस्तरां के रसोईघर, पकवान प्रशिक्षण आदि) से लिए गए हैं, और सभी विवरण और प्रश्न-उत्तर मानव द्वारा सावधानी से लिखे गए हैं, जो वास्तविक अनुप्रयोग परिदृश्यों के करीब हैं।

What are the experimental results?

LFS ने विभिन्न मॉडल और विभिन्न बेंचमार्क पर सामान्य और स्थिर सुधार लाया है। सभी मॉडल के LFS-सुधारित संस्करणों ने सभी परीक्षण बेंचमार्क पर आधार मॉडल से बेहतर प्रदर्शन किया है, जिससे स्पष्ट होता है कि LFS केवल एकल बेंचमार्क पर ही अच्छा प्रदर्शन नहीं करता, बल्कि इसमें कुछ सामान्यता भी है।

यह अध्ययन के केंद्रीय प्रस्ताव का भी उत्तर देता है: एक समान नमूनाकरण फ्रेम पर मॉडल को "कठिन गणना" करने के बजाय, इनपुट पर एक बुद्धिमान छांटना करें—सही फ्रेम चुनने से निचले स्तर के कार्यों का प्रदर्शन भी सुधरता है।

03 Task Adaptation: Characterizing Modular Intervention Instead of Full Model Fine-Tuning

डीएलएम की क्रॉस-टास्क जनरलाइजेशन क्षमता हमेशा से एक “बोलने में महत्वपूर्ण, लेकिन करने में कठिन” समस्या रही है। वर्तमान में प्रमुख समाधान पर-टोकन डायनामिक रूटिंग है—प्रत्येक टोकन को प्रोसेस करते समय, इसे कई LoRA एडेप्टर्स के बीच चुनना पड़ता है कि कौन सा मार्ग अपनाया जाए। यह मैकेनिज्म वास्तव में प्रभावी है, लेकिन इसकी कीमत भी काफी है: कैलकुलेशन और GPU मेमोरी उपयोग दोनों उच्च स्तर पर बने रहते हैं, जिससे मॉडल धीमा चलता है और GPU मेमोरी का अधिक उपयोग करता है।

एक अन्य दृष्टिकोण—प्रतिनिधि सूक्ष्म समायोजन (ReFT)—मॉडल पैरामीटर को संशोधित नहीं करता, बल्कि केवल प्रारंभिक और अंतिम टोकन के प्रतिनिधित्व को संपादित करके एकल कार्य अनुकूलन प्राप्त करता है, जिसकी दक्षता LoRA से काफी अधिक है। हालाँकि, इसके दो कमजोर पहलू हैं: पहला, टोकन का स्वयं का अर्थ अस्पष्ट होता है, इसलिए केवल प्रारंभ और अंत को बदलना पर्याप्त नहीं है; दूसरा, एक “स्व-निर्देशित” तंत्र की कमी है, जिससे मॉडल अपरिचित नए कार्यों के सामने यह नहीं जान पाता कि किस स्तर को और किस प्रतिनिधित्व को संशोधित करना है।

हुआवेई क्लाउड टीम ने कई विश्वविद्यालयों के साथ सहयोग किया और रिप्रेजेंटेशन-अवेयर मॉड्यूलरिटी (RaMod) फ्रेमवर्क प्रस्तुत किया, जिसने ReFT के विचार को क्रॉस-टास्क जनरलाइजेशन स्थितियों में सफलतापूर्वक विस्तारित किया।

मुख्य दृष्टिकोण को दो भागों में विभाजित किया जा सकता है:

पहला भाग डुअल-मॉड्यूल रिप्रेजेंटेशन और पैरामीटर फाइन-ट्यूनिंग है। ReFT केवल शुरुआत और अंत को ही बदल सकता है, जबकि RaMod काफी अधिक सूक्ष्म है—यह मध्य स्तर के हिडन रिप्रेजेंटेशन से एक स्ट्रेटेजी-चयनित उपसमूह को चुनता है, ताकि मॉड्यूलर हस्तक्षेप किया जा सके। कहाँ बदलें और कैसे बदलें, यह सब चयनात्मक और रणनीतिक है। इससे मॉडल को अनदेखे कार्यों को हल करने में अधिक सटीकता से मार्गदर्शन किया जा सकता है।

दूसरा हिस्सा एसिंक्रोनस स्केड्यूलर है। टास्क के बीच सामान्यीकरण के लिए सबसे बड़ी चिंता वीडियो मेमोरी की कमी है, जिसके लिए RaMod ने एक सक्रिय स्केड्यूलिंग मैकेनिज्म डिज़ाइन किया है: जितनी हस्तक्षेप की आवश्यकता हो, उतनी ही वीडियो मेमोरी आवंटित की जाती है, और जब इसका उपयोग पूरा हो जाए, तो यह सक्रिय रूप से मुक्त कर दी जाती है। इस प्रकार, स्टोरेज ओवरहेड को न्यूनतम तक सीमित कर दिया गया है।

प्रभाव तुरंत दिखाई देता है। प्रयोगों से पता चलता है कि RaMod न केवल क्रॉस-टास्क जनरलाइजेशन में बेहतर है, बल्कि लागत में भी काफी कमी आती है: मूल LLMs की तुलना में, इस विधि द्वारा अतिरिक्त प्री-फिलिंग समय 83% कम हो गया है, जनरेशन लेटेंसी 100% कम हो गई है, और GPU मेमोरी उपयोग 79% कम हो गया है।

दूसरे शब्दों में, RaMod ने कार्य अनुकलन को “मॉडल बदलने” से “प्रतिनिधित्व समायोजित करने” में बदल दिया है—मॉडल के मुख्य भाग को बिना छूए, केवल महत्वपूर्ण परतों की छिपी हुई अवस्थाओं पर बिंदु-आधारित संपादन किया जाता है। यदि यह दृष्टिकोण सफल होता है, तो बड़े मॉडल के लागत-आधारित प्रसार को पुनर्परिभाषित किया जा सकता है: एक आधार मॉडल के साथ कुछ हल्के हस्तक्षेप मॉड्यूल्स का उपयोग करके, विभिन्न कार्य परिदृश्यों के लिए कम लागत पर सेवा प्रदान की जा सकती है, बिना प्रत्येक परिदृश्य के लिए पूर्ण प्रतियाँ अलग से प्रशिक्षित या लोड की जाएँ।

हालांकि, "पुनर्लिखन" से पहले, इस प्रतिनिधित्व सूक्ष्म समायोजन विधि के कुछ महत्वपूर्ण प्रश्न अभी भी उत्तर का इंतजार कर रहे हैं, जैसे कि जटिल तर्क जैसे उच्च कठिनाई वाले परिदृश्यों में, क्या गणना लागत को काफी कम करते हुए भी सटीकता को बनाए रखा जा सकता है।

04 डेटा ब्रेकथ्रू: भाषा विशेषज्ञ अपने कार्यों में लगे, कदम दर कदम प्रगति

तीनों पेपर्स ने “मॉडल का उपयोग कैसे अधिक कुशलता से किया जाए” को हल किया है। लेकिन कई कार्यों के लिए एक और अधिक मूलभूत वास्तविक चुनौती है: अगर प्रशिक्षण डेटा ही पर्याप्त नहीं है?

कोड-स्विचिंग (Code-Switching, CS) वॉइस ट्रांसलेशन टास्क को एक से अधिक भाषाओं के मिश्रित वॉइस को लक्ष्य भाषा में अनुवादित करना आवश्यक है। इस टास्क में न केवल अर्थ निरूपण जटिल है, बल्कि CS डेटा की कमी भी एक बड़ी समस्या है।

पिछले अध्ययन मुख्य रूप से दो रास्तों पर निर्भर करते थे: या तो मॉडल को स्वयं अर्थपूर्ण प्रतिनिधित्व को “समझने” के लिए छोड़ दिया जाता था, जिसका परिणाम नियंत्रित नहीं होता था; या फिर मानव-द्वारा अंकित डेटा पर बहुत अधिक खर्च किया जाता था, जिसकी लागत बहुत अधिक थी और स्केल करना मुश्किल था।

हुआवेई अनुवाद सेवा केंद्र टीम, जिसने शियामेन विश्वविद्यालय और मैकाऊ विश्वविद्यालय के साथ सहयोग किया, इस पत्र में एक नया दृष्टिकोण प्रस्तुत किया है: इस बजाय कि मॉडल स्वयं विभिन्न भाषाओं के अर्थात्मक प्रतिनिधित्व को समझे, बल्कि उन्हें सक्रिय रूप से संरेखित कर दें—प्रत्येक भाषा के लिए अलग “विशेषज्ञ टीम” बनाएं, जो प्रत्येक टीम अपनी भाषा के अर्थात्मक मॉडलिंग के लिए जिम्मेदार हो, और अंत में सभी को संरेखित करें।

पेपर का लिंक: https://arxiv.org/pdf/2511.10670

दो महत्वपूर्ण डिजाइन हैं:

पहला MoE (मिक्स्ड एक्सपर्ट्स) वॉइस प्रोजेक्टर है। पारंपरिक प्रोजेक्टर सभी भाषाओं के साथ समान व्यवहार करते हैं, जिससे परिणाम स्वाभाविक रूप से अच्छे नहीं होते। MoE संस्करण में, प्रत्येक भाषा के लिए एक विशेष “एक्सपर्ट” समूह आवंटित किया जाता है, जो केवल एक भाषा के सूक्ष्म वॉइस विशेषताओं के मॉडलिंग के लिए जिम्मेदार होता है। रूटिंग मैकेनिज्म स्वचालित रूप से वॉइस विशेषताओं को संबंधित भाषा के एक्सपर्ट समूह के पास भेजता है।

为了确保路由不偏离，论文还引入了两个辅助损失：语言特定损失确保每个专家真正学会对应语言的特征，组内负载均衡损失防止所有token都挤到同一个专家。

दूसरा बहु-चरण प्रशिक्षण परिपथ है। डेटा कम हो तो रणनीति से पूरा करें। पूरा प्रशिक्षण चार चरणों में होता है: पहले, स्वचालित वाचिक पहचान (ASR) डेटा का उपयोग करके प्रत्येक भाषा के प्रोजेक्टर को अलग-अलग पूर्व-प्रशिक्षित करें, जिससे ध्वनि-पाठ संरेखण का आधार तैयार हो; फिर, सभी भाषाओं के प्रोजेक्टर को MoE संरचना में जोड़ें और भाषा-विशिष्ट हानि और लोड संतुलन हानि के साथ संयुक्त रूप से अनुकूलित करें; इसके बाद, ASR डेटा से एकल भाषा वाचिक अनुवाद (ST) डेटा पर स्थानांतरित हों, और स्थानांतरण हानि के साथ सुगम स्थानांतरण प्राप्त करें; अंत में, ST डेटा से CS वाचिक अनुवाद डेटा में अनुकूलित करें।

इस धीमी डिज़ाइन की बुद्धिमत्ता यह है कि मॉडल को सीधे दुर्लभ CS डेटा को नहीं, बल्कि पहले पर्याप्त ASR और ST डेटा का उपयोग करके आधारभूत क्षमताओं को मजबूत किया जाता है, और फिर धीरे-धीरे लक्ष्य कार्य की ओर बढ़ा जाता है।

Whisper, SeamlessM4T, LLaST जैसे कई प्रमुख आधार मॉडल की तुलना की गई। Fisher और NTUML2021 के चार परीक्षण सेट पर, यह विधि SeamlessM4T जैसे अन्य मॉडलों की तुलना में सर्वोत्तम प्रदर्शन करती है, जिसमें BLEU 39.52 तक और COMET 81.33 तक पहुँचता है।

यह कार्य स्पष्ट संकेत देता है: डेटा की कमी वाले बहुभाषी परिदृश्यों में, सूक्ष्म आर्किटेक्चर डिज़ाइन और धीमी शिक्षण रणनीतियाँ, केवल डेटा जमा करने की तुलना में अधिक प्रभावी हो सकती हैं।

ध्यान दें कि यह कार्य सीमित भाषाओं और नियंत्रित डेटा गुणवत्ता वाले परिदृश्यों में एक प्रभावी “तीखी चाकू समाधान” है, लेकिन दर्जनों भाषाओं को कवर करने के लिए एक सामान्य बहुभाषी अनुवाद प्रणाली में, इसकी विस्तारयोग्यता को अभी और साबित करने की आवश्यकता है।

05 समापन: डिज़ाइन घनत्व के साथ, गणना लागत को बदलें

30B हियरार्किकल ViT ने मॉडल आर्किटेक्चर को पुनर्प्राप्त किया, जिससे 67 अरब एक्टिवेशन पैरामीटर ImageNet पर 180 अरब के प्रतिद्वंद्वी को पार कर गए;

LFS ने इनपुट पर एक घटाव किया है, जिससे गणना से पहले बड़ी मात्रा में अर्थहीन फ्रेम कोडिंग ओवरहेड को रोक दिया गया है;

RaMod ने पूर्ण फाइन-ट्यूनिंग को रिप्रेजेंटेशन लेयर के पॉइंटवाइज एडिटिंग में संकुचित कर दिया है, जिससे क्रॉस-टास्क एडाप्टेशन के लिए मेमोरी और लेटेंसी दोनों कम हो गई हैं;

स्पीच ट्रांसलेशन के लिए MoE विभाजन और प्रगतिशील प्रशिक्षण का उपयोग करके, सबसे कम डेटा वाले क्षेत्र में यह साबित किया गया है कि आर्किटेक्चर की बुद्धिमत्ता कभी-कभी डेटा की कमी को पूरा कर सकती है।

चार पेपर, चार दिशाएँ, सभी एक ही केंद्र की ओर इशारा कर रहे हैं: हुआवेई “आकार घनत्व” के बजाय “डिज़ाइन घनत्व” का उपयोग कर रहा है। चारों पेपर बुनियादी शोध, AI डेटा, क्लाउड सेवाओं और अनुवाद सेवा केंद्र से आए हैं, जो दर्शाते हैं कि कार्यक्षमता को प्राथमिकता देना केवल किसी एक टीम की पसंद नहीं है, बल्कि इस तर्क को सभी चरणों में तकनीकी चयन में शामिल किया गया है।

अगर पिछले दो वर्षों की AI प्रतियोगिता को “माइनिंग बैटल” के रूप में देखा जाए, तो 2026 में एक मोड़ सामने आ रहा है: “स्मेल्टिंग टेक्नोलॉजी” का युग शुरू हो चुका है। स्पार्स एक्टिवेशन, स्मार्ट सिलेक्शन, मॉड्यूलर एडेप्टेशन, प्रोग्रेसिव ट्रेनिंग—ये पथ अधिक चिप्स और कैलकुलेशन पावर पर निर्भर नहीं करते, बल्कि समस्या की गहरी समझ पर निर्भर करते हैं।

बड़ी कंपनियों या स्टार्टअप्स के लिए, पैरामीटर आर्म्स रेस पहले ही पार कर चुकी है; AI के दूसरे चरण में, वास्तविक लागू करने की समस्याओं को समझना और इन समस्याओं को व्यवस्थित ढंग से हल करने की इंजीनियरिंग क्षमता ही वास्तविक निर्णायक बिंदु है।