Ejecutar un modelo de IA de 235 mil millones de parámetros requería alquilar una fortuna en capacidad de cómputo en la nube. Mesh LLM quiere que lo hagas con las GPU que ya están en tu casa, en la casa de tu vecino y quizás en algunas de personas extrañas en internet.
El proyecto de código abierto, liderado por el desarrollador Michael Neale y respaldado por Jack Dorsey, reúne GPU de Nvidia inactivas de múltiples máquinas en una red peer-to-peer capaz de realizar inferencia distribuida en modelos de lenguaje grandes.
Cómo funciona realmente
Mesh LLM crea una malla descentralizada de GPUs que abarca máquinas macOS, Linux y Windows, con un fuerte énfasis en la arquitectura CUDA de Nvidia. En lugar de redirigir tus consultas de IA a los centros de datos de OpenAI o Google, el sistema mantiene todo local o distribuido entre los nodos conectados, sin ninguna participación de servidor central.
El proyecto expone una API compatible con OpenAI, lo que significa que los desarrolladores pueden reemplazar directamente los modelos alojados en la nube por Mesh sin necesidad de reescribir sus aplicaciones. En segundo plano, un enfoque de canalización innovador llamado “Skippy” divide modelos masivos entre múltiples nodos. Por ejemplo, un modelo Mixture of Experts de 235 mil millones de parámetros se divide y distribuye en cualquier hardware disponible en la red.
La transmisión de datos se basa en la biblioteca P2P iroh, que gestiona la traversa de NAT, el problema de red que dificulta las conexiones punto a punto cuando los dispositivos se encuentran detrás de routers y firewalls.
En una configuración de LAN, Mesh LLM logra aproximadamente 16 tokens por segundo en ese modelo de 235B. A través de redes de área amplia, las velocidades oscilan entre 10 y 25 tokens por segundo.
El proyecto admite docenas de familias de modelos de peso abierto, incluyendo Qwen, Llama, GLM y variantes de DeepSeek.
La capa de recompensas
Un proyecto relacionado llamado Meshtrain, lanzado el 27 de agosto de 2026, añade una estructura de incentivos para proveedores de GPU. Los contribuyentes que comparten sus recursos de cómputo ganan “MeshCoin” a través de un libro mayor local P2P.
Esa aplicación principal es la app Buzz de Block, donde Mesh ha sido integrado para el intercambio de cómputo comunitario. Block, la empresa de fintech dirigida por Dorsey, ha estado expandiendo constantemente su presencia tanto en bitcoin como en infraestructura descentralizada.
Privacidad como una función, no como un después
Uno de los puntos clave de Mesh LLM es su arquitectura sin servidores centrales. Cuando ejecutas un modelo a través de la red, tus datos nunca tocan un centro de datos externo.
El rendimiento se ve afectado en redes de área amplia en comparación con configuraciones locales. La arquitectura funciona mejor cuando los nodos están geográficamente cercanos y conectados por enlaces de baja latencia.