Executar um modelo de IA com 235 bilhões de parâmetros exigia alugar uma fortuna em poder de computação em nuvem. A Mesh LLM quer que você faça isso com as GPUs já presentes em sua casa, na casa do seu vizinho e talvez em algumas pessoas desconhecidas na internet.
O projeto de código aberto, liderado pelo desenvolvedor Michael Neale e endossado por Jack Dorsey, reúne GPUs Nvidia ociosas de várias máquinas em uma rede peer-to-peer capaz de realização distribuída de inferência em modelos de linguagem de grande porte.
Como funciona realmente
O Mesh LLM cria uma malha descentralizada de GPUs que abrange máquinas macOS, Linux e Windows, com forte ênfase na arquitetura CUDA da Nvidia. Em vez de encaminhar suas consultas de IA para os centros de dados da OpenAI ou do Google, o sistema mantém tudo local ou distribuído entre os nós conectados, sem envolvimento de nenhum servidor central.
O projeto expõe uma API compatível com OpenAI, o que significa que desenvolvedores podem substituir o Mesh como uma solução plug-and-play para modelos hospedados na nuvem sem precisar reescrever seus aplicativos. Em segundo plano, uma abordagem inovadora de pipeline chamada “Skippy” particiona modelos massivos em vários nodes. Um modelo Mixture of Experts com 235 bilhões de parâmetros, por exemplo, é dividido e distribuído entre qualquer hardware disponível na rede.
A transmissão de dados depende da biblioteca P2P iroh, que gerencia a travessia de NAT, o problema de rede que torna as conexões ponto a ponto difíceis quando os dispositivos estão atrás de roteadores e firewalls.
Em uma configuração de LAN, o Mesh LLM alcança aproximadamente 16 tokens por segundo no modelo de 235B. Em redes de longa distância, as velocidades variam entre 10 e 25 tokens por segundo.
O projeto suporta dezenas de famílias de modelos de peso aberto, incluindo Qwen, Llama, GLM e variantes do DeepSeek.
A camada de recompensas
Um projeto relacionado chamado Meshtrain, lançado em 27 de agosto de 2026, adiciona uma estrutura de incentivos para provedores de GPU. Contribuidores que compartilham seus recursos de computação ganham “MeshCoin” por meio de um livro-razão local P2P.
Essa aplicação mainstream é o app Buzz da Block, onde o Mesh foi integrado para compartilhamento de computação comunitária. A Block, empresa de fintech administrada por Dorsey, tem expandido constantemente sua presença tanto no bitcoin quanto na infraestrutura descentralizada.
Privacidade como recurso, não como após-pensamento
Um dos principais pontos de venda do Mesh LLM é sua arquitetura sem servidor central. Quando você executa um modelo pela rede, seus dados nunca tocam um data center externo.
O desempenho sofre uma redução em redes de longa distância em comparação com configurações locais. A arquitetura funciona melhor quando os nodes estão geograficamente próximos e conectados por links de baixa latência.