235 बिलियन पैरामीटर वाले AI मॉडल को चलाने के लिए पहले एक छोटे धन के बराबर क्लाउड कंप्यूटिंग किराए पर लेना पड़ता था। मेश LLM आपको अपने घर, आपके पड़ोसी के घर और शायद इंटरनेट पर कुछ अज्ञात लोगों के GPU का उपयोग करके इसे करने के लिए चाहता है।
डेवलपर माइकल नील द्वारा नेतृत्व किया जा रहा और जैक डोर्सी द्वारा समर्थित ओपन-सोर्स प्रोजेक्ट, एक पीयर-टू-पीयर नेटवर्क में कई मशीनों पर अनुपयोगिता वाले Nvidia GPU को एकत्रित करता है, जो बड़े भाषा मॉडल पर वितरित निष्कर्षण के लिए सक्षम है।
यह वास्तव में कैसे काम करता है
Mesh LLM, macOS, Linux और Windows मशीनों के बीच GPU का एक डिसेंट्रलाइज्ड मेश बनाता है, जिसमें Nvidia के CUDA आर्किटेक्चर पर भार दिया गया है। आपके AI क्वेरीज को OpenAI या Google के डेटा सेंटर्स पर रूट नहीं किया जाता, बल्कि सिस्टम सब कुछ स्थानीय रूप से या कनेक्टेड नोड्स के बीच वितरित करता है, जिसमें कोई केंद्रीय सर्वर शामिल नहीं होता।
प्रोजेक्ट एक ओपनएआई-अनुकूल API प्रदान करता है, जिसका अर्थ है कि डेवलपर्स अपने एप्लिकेशन को पुनः लिखे बिना मेश को क्लाउड-होस्टेड मॉडल के स्थान पर ड्रॉप-इन प्रतिस्थापन के रूप में उपयोग कर सकते हैं। अंदरूनी रूप से, "स्किपी" नामक एक नवीन पाइपलाइन दृष्टिकोण विशाल मॉडल को कई नोड्स पर विभाजित करता है। उदाहरण के लिए, 235 अरब पैरामीटर वाला मिक्सचर ऑफ एक्सपर्ट्स मॉडल, नेटवर्क पर उपलब्ध किसी भी हार्डवेयर पर काटा और फैलाया जाता है।
डेटा प्रसारण iroh P2P लाइब्रेरी पर निर्भर करता है, जो NAT ट्रैवर्सल को संभालती है, जो नेटवर्किंग की उस परेशानी को दर्शाती है जिससे पीयर-टू-पीयर कनेक्शन कठिन हो जाते हैं जब उपकरण राउटर और फायरवॉल के पीछे स्थित होते हैं।
एक लैन सेटअप पर, मेश LLM उस 235B मॉडल पर लगभग 16 टोकन प्रति सेकंड प्राप्त करता है। वाइड एरिया नेटवर्क्स पर, गति 10 से 25 टोकन प्रति सेकंड के बीच होती है।
यह प्रोजेक्ट दर्जनों ओपन-वेट मॉडल परिवारों का समर्थन करता है, जिनमें Qwen, Llama, GLM और DeepSeek वेरिएंट्स शामिल हैं।
पुरस्कार स्तर
27 अगस्त, 2026 को लॉन्च किया गया एक संबंधित प्रोजेक्ट, मेशट्रेन, GPU प्रदाताओं के लिए एक प्रोत्साहन संरचना जोड़ता है। जो योगदानकर्ता अपने कंप्यूट संसाधन साझा करते हैं, वे P2P स्थानीय लेजर के माध्यम से “मेशकॉइन” कमाते हैं।
वह मुख्यधारा का एप्लिकेशन Block का Buzz ऐप है, जहाँ Mesh को समुदाय के कंप्यूटिंग शेयरिंग के लिए एकीकृत किया गया है। डॉर्सी द्वारा संचालित फिनटेक कंपनी Block बिटकॉइन और डिसेंट्रलाइज्ड इंफ्रास्ट्रक्चर दोनों में अपनी उपस्थिति को लगातार विस्तारित कर रही है।
गोपनीयता एक विशेषता के रूप में, न कि एक बाद का विचार
Mesh LLM के मुख्य बिक्री बिंदुओं में से एक इसकी शून्य-केंद्रीय सर्वर आर्किटेक्चर है। जब आप नेटवर्क के माध्यम से एक मॉडल चलाते हैं, तो आपका डेटा किसी बाहरी डेटा सेंटर को स्पर्श नहीं करता।
विस्तृत क्षेत्रीय नेटवर्क पर प्रदर्शन प्रभावित होता है, स्थानीय सेटअप की तुलना में। यह आर्किटेक्चर तब सबसे अच्छा काम करता है जब नोड्स भौगोलिक रूप से निकट हों और निम्न-लेटेंसी लिंक्स द्वारा जुड़े हों।