2350億パラメータのAIモデルを実行するには、膨大な額のクラウドコンピューティングリソースをレンタルする必要がありました。Mesh LLMは、あなたの家、隣人の家、そしてインターネット上のいくつかの見知らぬ人の持つGPUを使って、それを実行することを提案しています。
開発者マイケル・ニールが主導し、ジャック・ドーシーが推奨するオープンソースプロジェクトは、複数のマシンに分散したアイドル状態のNvidia GPUをピアツーピアネットワークに統合し、大規模言語モデルの分散推論を可能にします。
実際にどのように機能するか
Mesh LLMは、macOS、Linux、WindowsマシンにまたがるGPUの分散メッシュを構築し、NvidiaのCUDAアーキテクチャに重点を置いています。AIクエリをOpenAIやGoogleのデータセンターに転送するのではなく、このシステムはすべてをローカルまたは接続されたノード間で分散させ、中央サーバーの関与をゼロにします。
このプロジェクトはOpenAI互換のAPIを提供しており、開発者はアプリケーションを再記述することなく、クラウドホスト型モデルの代わりにMeshをそのまま導入できます。裏では、「Skippy」と呼ばれる革新的なパイプラインアプローチが、大規模モデルを複数のノードに分割します。たとえば、2350億パラメータのMixture of Expertsモデルは、ネットワーク上の利用可能なハードウェアに分割して分散されます。
データ伝送は、ルーターやファイアウォールの背後にいるデバイス間でのピアツーピア接続を困難にするNAT通過を処理するiroh P2Pライブラリに依存しています。
LAN環境では、Mesh LLMは235Bモデルで約16トークン/秒を達成します。広域ネットワークでは、速度は10〜25トークン/秒の範囲です。
このプロジェクトは、Qwen、Llama、GLM、DeepSeekのバリエーションを含む、数十のオープンウェイトモデルファミリーをサポートしています。
報酬レイヤー
2026年8月27日に開始された関連プロジェクト「Meshtrain」は、GPUプロバイダー向けのインセンティブ構造を追加します。計算リソースを共有する貢献者は、P2Pローカルレジャーを通じて「MeshCoin」を獲得します。
そのメジャーなアプリケーションは、Blockが運営するBuzzアプリで、Meshはコミュニティのコンピューティング共有のために統合されています。Dorseyが運営するフィンテック企業Blockは、Bitcoinおよび分散型インフラの両方における存在感を着実に拡大しています。
プライバシーを機能として、後から追加するものではなく
Mesh LLMの主要な強みの一つは、中央サーバーが不要なアーキテクチャです。ネットワークを通じてモデルを実行すると、あなたのデータは外部のデータセンターに一切触れることはありません。
広域ネットワークでは、ローカル環境に比べてパフォーマンスが低下します。ノードが地理的に近接し、低遅延のリンクで接続されている場合、アーキテクチャは最も効果的に機能します。