كان تشغيل نموذج ذكاء اصطناعي بـ 235 مليار معلمة يتطلب استئجار كمية هائلة من موارد الحوسبة السحابية. يرغب Mesh LLM في أن تقوم بذلك باستخدام وحدات معالجة الرسومات الموجودة بالفعل في منزلك، ومنزل جارك، وربما بضع أشخاص مجهولين على الإنترنت.
المشروع مفتوح المصدر، الذي يقوده المطور مايكل نيل ويدعمه جاك دورسي، يجمع وحدات معالجة الرسومات Nvidia غير المستخدمة عبر أجهزة متعددة في شبكة نظير إلى نظير قادرة على الاستنتاج الموزع على نماذج اللغة الكبيرة.
كيف يعمل فعليًا
يُنشئ Mesh LLM شبكة لامركزية من وحدات معالجة الرسومات (GPUs) تغطي أجهزة macOS وLinux وWindows، مع التركيز الشديد على بنية Nvidia CUDA. بدلاً من توجيه استعلامات الذكاء الاصطناعي الخاصة بك إلى مراكز بيانات OpenAI أو Google، يحافظ النظام على كل شيء محليًا أو موزعًا عبر العقد المتصلة دون أي تدخل من خادم مركزي.
يعرض المشروع واجهة برمجة تطبيقات متوافقة مع OpenAI، مما يعني أن المطورين يمكنهم استبدال Mesh كبديل مباشر للنماذج المضيفة في السحابة دون إعادة كتابة تطبيقاتهم. في الخلفية، تستخدم طريقة أنبوبية مبتكرة تُسمى "Skippy" تقسيم النماذج الضخمة عبر عقد متعددة. على سبيل المثال، يتم تقسيم نموذج مزيج من الخبراء بـ 235 مليار معلمة ونشره على أي معدات متاحة على الشبكة.
يعتمد نقل البيانات على مكتبة iroh P2P، التي تتعامل مع تجاوز NAT، وهو المشكلة الشبكية التي تجعل الاتصالات النظيرية صعبة عندما تكون الأجهزة خلف أجهزة التوجيه وجدران الحماية.
في إعداد شبكة محلية (LAN)، يحقق Mesh LLM حوالي 16 رمزًا في الثانية على النموذج الذي يبلغ حجمه 235 مليار. عبر الشبكات الواسعة، تتراوح السرعات بين 10 و25 رمزًا في الثانية.
يدعم المشروع عشرات عائلات النماذج المفتوحة الوزن، بما في ذلك Qwen و Llama و GLM ومتغيرات DeepSeek.
طبقة المكافآت
مشروع ذو صلة يُدعى Meshtrain، الذي أُطلق في 27 أغسطس 2026، يضيف هيكلًا تحفيزيًا لمزودي وحدات معالجة الرسوميات. يكسب المساهمون الذين يشاركون موارد الحوسبة "MeshCoin" من خلال دفتر محلي نظير إلى نظير.
التطبيق الرئيسي هو تطبيق Buzz الخاص بـ Block، حيث تم دمج Mesh لمشاركة حسابات المجتمع. Block، شركة التكنولوجيا المالية التي يديرها دورسي، قد اتسعت تدريجيًا في مجال البيتكوين والبنية التحتية اللامركزية.
الخصوصية كميزة، وليس كأمر ثانوي
إحدى نقاط البيع الأساسية لشبكة Mesh LLM هي هندستها الخالية من الخوادم المركزية. عندما تقوم بتشغيل نموذج عبر الشبكة، لا تلامس بياناتك أي مركز بيانات خارجي.
يتأثر الأداء على الشبكات الواسعة مقارنة بالتركيبات المحلية. تعمل البنية التحتية بأفضل شكل عندما تكون العقد قريبة جغرافيًا ومترابطة بروابط منخفضة التأخير.