Exécuter un modèle d'IA de 235 milliards de paramètres nécessitait autrefois de louer une somme considérable de puissance de calcul cloud. Mesh LLM souhaite que vous le fassiez avec les GPU déjà présents dans votre maison, celle de votre voisin, et peut-être quelques inconnus sur Internet.
Le projet open source, dirigé par le développeur Michael Neale et soutenu par Jack Dorsey, regroupe des GPU Nvidia inactifs sur plusieurs machines en un réseau peer-to-peer capable d'effectuer des inférences distribuées sur des modèles de langage de grande taille.
Comment cela fonctionne réellement
Mesh LLM crée un maillage décentralisé de GPU couvrant les machines macOS, Linux et Windows, avec une forte attention portée à l'architecture CUDA d'Nvidia. Au lieu d'acheminer vos requêtes d'IA vers les centres de données d'OpenAI ou de Google, le système conserve tout localement ou le distribue à travers les nœuds connectés, sans aucune intervention de serveur central.
Le projet expose une API compatible OpenAI, ce qui permet aux développeurs de remplacer les modèles hébergés dans le cloud par Mesh sans avoir à réécrire leurs applications. En coulisses, une nouvelle approche de pipeline appelée « Skippy » répartit les modèles massifs sur plusieurs nœuds. Un modèle Mixture of Experts de 235 milliards de paramètres, par exemple, est divisé et réparti sur tout le matériel disponible sur le réseau.
La transmission des données repose sur la bibliothèque P2P iroh, qui gère la traversée NAT, le problème réseau qui complique les connexions peer-to-peer lorsque les appareils se trouvent derrière des routeurs et des pare-feux.
Sur une configuration LAN, Mesh LLM atteint environ 16 tokens par seconde sur ce modèle de 235 milliards. Sur les réseaux étendus, les vitesses varient entre 10 et 25 tokens par seconde.
Le projet prend en charge des dizaines de familles de modèles à poids ouverts, notamment Qwen, Llama, GLM et des variantes DeepSeek.
La couche de récompenses
Un projet connexe appelé Meshtrain, lancé le 27 août 2026, introduit une structure d'incitation pour les fournisseurs de GPU. Les contributeurs qui partagent leurs ressources de calcul gagnent des « MeshCoin » via un registre local P2P.
Cette application grand public est l'application Buzz de Block, où Mesh a été intégré pour le partage de calcul communautaire. Block, l'entreprise de fintech dirigée par Dorsey, élargit progressivement sa présence dans le bitcoin et les infrastructures décentralisées.
La confidentialité comme fonctionnalité, pas comme après-pensée
L'un des principaux atouts de Mesh LLM est son architecture sans serveur central. Lorsque vous exécutez un modèle via le réseau, vos données ne touchent jamais un centre de données externe.
La performance est affectée sur les réseaux étendus par rapport aux installations locales. L'architecture fonctionne mieux lorsque les nœuds sont géographiquement proches et connectés par des liens à faible latence.