235 ارب پیرامیٹر والے AI ماڈل کو چلانے کے لیے پہلے ایک چھوٹی سی دولت کے برابر کلاؤڈ کمپیوٹنگ کرایہ پر لینا پڑتا تھا۔ میش LLM چاہتا ہے کہ آپ اسے اپنے گھر، آپ کے پڑوسی کے گھر، اور شاید انٹرنیٹ پر کچھ اجنبیوں کے GPU استعمال کرکے چلائیں۔
ایک اوپن سورس پراجیکٹ، جس کی قیادت ڈویلپر مائیکل نیل کر رہے ہیں اور جیک ڈورسی نے تائید کی ہے، متعدد مشینوں پر بے کار Nvidia GPUs کو ایک پیر-ٹو-پیر نیٹ ورک میں جمع کرتا ہے جو بڑے زبان ماڈلز پر تقسیم شدہ انفرنس کے لیے صلاحیت رکھتا ہے۔
یہ کیسے کام کرتا ہے
Mesh LLM، macOS، Linux اور Windows مشینوں کے درمیان GPU کا ایک غیر مرکزی جال بناتا ہے، جس میں Nvidia کی CUDA آرکیٹیکچر پر زور دیا جاتا ہے۔ آپ کے AI کوئریز کو OpenAI یا Google کے ڈیٹا سینٹرز پر نہیں بھیجا جاتا، بلکہ سسٹم سب کچھ مقامی یا جڑے ہوئے نوڈس کے درمیان تقسیم کرتا ہے، جس میں کوئی مرکزی سرور شامل نہیں ہوتا۔
اس پروجیکٹ کے پاس ایک OpenAI کے مطابق API ہے، جس کا مطلب یہ ہے کہ ڈویلپرز اپنے ایپلیکیشنز کو دوبارہ لکھے بغیر Mesh کو کلاؤڈ ہوسٹڈ ماڈلز کی جگہ استعمال کر سکتے ہیں۔ اندر کی طرف، ایک نئی پائپ لائن کا طریقہ جسے “Skippy” کہا جاتا ہے، بڑے ماڈلز کو متعدد نوڈز پر تقسیم کرتا ہے۔ مثلاً، ایک 235 بلین پیرامیٹر کا Mixture of Experts ماڈل، ٹکڑوں میں تقسیم کر دیا جاتا ہے اور نیٹ ورک پر دستیاب کسی بھی ہارڈ ویئر پر بکھیر دیا جاتا ہے۔
ڈیٹا ٹرانسمیشن iroh P2P لائبریری پر منحصر ہے، جو NAT ٹرورسل کو سنبھالتی ہے، جو نیٹ ورکنگ کا وہ مسئلہ ہے جس کی وجہ سے P2P کنکشنز مشکل ہو جاتے ہیں جب ڈیوائسز روترز اور فائر والز کے پیچھے ہوتی ہیں۔
ایک LAN سیٹ اپ پر، میش LLM اس 235B ماڈل پر تقریباً 16 ٹوکن فی سیکنڈ حاصل کرتا ہے۔ وائڈ ایریا نیٹ ورکس پر، رفتار 10 سے 25 ٹوکن فی سیکنڈ کے درمیان ہوتی ہے۔
اس پروجیکٹ کی حمایت دزنوں کھلے وزن والے ماڈل فیملیز کو کرتی ہے، جن میں Qwen، Llama، GLM، اور DeepSeek ورائنٹس شامل ہیں۔
انعام کی لیئر
27 اگست، 2026 کو لانچ کیا گیا ایک متعلقہ پروجیکٹ میش ٹرین، جی پی یو فراہم کنندگان کے لیے ایک انعام کی ساخت شامل کرتا ہے۔ جو افراد اپنے کمپیوٹ کے وسائل شیئر کرتے ہیں، وہ ایک P2P مقامی لیجر کے ذریعے "میش کوائن" کما تے ہیں۔
وہ میں ایپلیکیشن Block کا Buzz ایپ ہے، جہاں Mesh کو کمیونٹی کمپیوٹ کے شیئرنگ کے لیے اندراج کیا گیا ہے۔ Block، جو Dorsey کے ذریعے چلایا جاتا ہے، بٹ کوائن اور ڈی سینٹرلائزڈ انفراسٹرکچر دونوں میں اپنا اثر بڑھاتا جا رہا ہے۔
خرابی کے طور پر نہیں، بلکہ ایک خصوصیت کے طور پر خفیہ رکھنا
Mesh LLM کے مرکزی فروختی نقطوں میں سے ایک اس کی صفر سینٹرل سرور ساخت ہے۔ جب آپ نیٹ ورک کے ذریعے ایک ماڈل چلائیں، تو آپ کا ڈیٹا کسی بیرونی ڈیٹا سینٹر تک نہیں پہنچتا۔
وائیڈ ایریا نیٹ ورکس پر کارکردگی میں مقامی اسٹیپس کے مقابلے میں کمی آتی ہے۔ یہ تعمیرات تب سب سے بہتر کام کرتی ہے جب نوڈس جغرافیائی طور پر قریب ہوں اور کم لیٹنسی والے لنکس سے جڑے ہوں۔