মেশ এলএলএম ডিসেন্ট্রালাইজড এআই কম্পিউট নেটওয়ার্কের জন্য অকার্যকর নভিডিয়া জিপিইউ ব্যবহার করে

235 বিলিয়ন প্যারামিটার বিশিষ্ট একটি এআই মডেল চালানোর জন্য পূর্বে একটি ছোট সম্পদের মতো ক্লাউড কম্পিউটিং ভাড়া করা প্রয়োজন হত। মেশ এলএলএম চায় আপনি আপনার বাড়ি, আপনার প্রতিবেশীর বাড়ি এবং হয়তো ইন্টারনেটের কিছু অপরিচিতদের গুপিতে ইতিমধ্যে অবস্থিত জিপিইউগুলির সাহায্যে এটি করুন।

ডেভেলপার মাইকেল নিল দ্বারা পরিচালিত এবং জ্যাক ডরসে দ্বারা সমর্থিত এই ওপেন-সোর্স প্রকল্পটি বিভিন্ন মেশিনের অকার্যকর নভিডিয়া GPU-গুলিকে একটি পিয়ার-টু-পিয়ার নেটওয়ার্কে একত্রিত করে, যা বড় ভাষা মডেলগুলিতে বিতরণকৃত উপসংহার করতে সক্ষম।

Mesh LLM ম্যাকওএস, লিনাক্স এবংউইন্ডোজ মেশিনগুলিকে জড়িয়ে একটি ডিসেন্ট্রালাইজড মেশ তৈরি করে, যার উপর প্রধানত নভিডিয়ার CUDA আর্কিটেকচারের জোর দেওয়া হয়। আপনার এআই কোয়েরি অপেনএআই বা গুগলের ডেটা সেন্টারগুলিতে পাঠানোর বদলে, সিস্টেমটি সবকিছুকে স্থানীয়ভাবে বা সংযুক্ত নোডগুলির মধ্যে বিতরণ করে, যার জন্য কোনো কেন্দ্রীয় সার্ভারের প্রয়োজন হয় না।

প্রকল্পটি একটি OpenAI-সঙ্গে সামঞ্জস্যপূর্ণ API প্রকাশ করে, যার অর্থ ডেভেলপাররা তাদের অ্যাপ্লিকেশন পুনর্লিখন না করেই মেশকে ক্লাউড-হোস্টেড মডেলের বিকল্প হিসাবে ব্যবহার করতে পারে। নিচের পটভূমিতে, “স্কিপি” নামক একটি নতুন পাইপলাইন পদ্ধতি বিশাল মডেলগুলিকে একাধিক নোডে বিভক্ত করে। উদাহরণস্বরূপ, 235 বিলিয়ন প্যারামিটারযুক্ত একটি Mixture of Experts মডেলকে নেটওয়ার্কে উপলব্ধ যেকোনো হার্ডওয়্যারে কেটে ছড়িয়ে দেওয়া হয়।

ডেটা ট্রান্সমিশন আইরোহ পি2প লাইব্রেরির উপর নির্ভর করে, যা এনএএটি ট্রাভারসাল পরিচালনা করে, যা হল নেটওয়ার্কিংয়ের একটি বড় সমস্যা যা ডিভাইসগুলি রাউটার এবং ফায়ারওয়ালের পিছনে থাকলে পি2প কানেকশনকে কঠিন করে তোলে।

একটি ল্যান সেটআপে, মেশ এলএলএম সেই 235B মডেলে প্রায় 16 টোকেন প্রতি সেকেন্ড অর্জন করে। বিস্তৃত এলাকার নেটওয়ার্কের মাধ্যমে, গতি 10 থেকে 25 টোকেন প্রতি সেকেন্ডের মধ্যে পরিসরে থাকে।

প্রকল্পটি কয়েক দরজন ওপেন-ওয়েট মডেল পরিবারকে সমর্থন করে, যার মধ্যে রয়েছে Qwen, Llama, GLM এবং DeepSeek ভ্যারিয়েন্ট।

27 আগস্ট, 2026-এ চালু করা একটি সম্পর্কিত প্রকল্প মেশট্রেন, জিপিইউ প্রদানকারীদের জন্য একটি উৎসাহ কাঠামো যোগ করে। যারা তাদের কম্পিউট সংস্থান শেয়ার করেন, তারা একটি পি2প স্থানীয় লেজারের মাধ্যমে “মেশকয়েন” অর্জন করেন।

সেই প্রধান অ্যাপ্লিকেশনটি হলো ব্লকের বাজ অ্যাপ, যেখানে মেশ কমিউনিটি কম্পিউট শেয়ারিংয়ের জন্য একীভূত করা হয়েছে। ডরসি দ্বারা পরিচালিত ফিনটেক কোম্পানি ব্লক বিটকয়েন এবং ডিসেন্ট্রালাইজড ইনফ্রাস্ট্রাকচার উভয়ের ক্ষেত্রেই ধীরে ধীরে তার উপস্থিতি বাড়াচ্ছে।

মেশ LLM-এর প্রধান বিক্রয় বিশেষত্বগুলির একটি হল এর শূন্য-কেন্দ্রীয় সার্ভার আর্কিটেকচার। যখন আপনি নেটওয়ার্কের মাধ্যমে একটি মডেল চালান, তখন আপনার ডেটা কখনও বাহ্যিক ডেটা সেন্টারে পৌঁছায় না।

ওয়াইড এরিয়া নেটওয়ার্কের তুলনায় স্থানীয় সেটআপের তুলনায় কর্মক্ষমতা কিছুটা কমে যায়। নোডগুলি ভৌগোলিকভাবে কাছাকাছি এবং নিম্ন-ল্যাটেন্সি লিঙ্ক দ্বারা সংযুক্ত হলে এই আর্কিটেকচার সর্বোত্তমভাবে কাজ করে।