Запуск ИИ-модели с 235 миллиардами параметров раньше требовал аренды огромного количества облачных вычислительных ресурсов. Mesh LLM хочет, чтобы вы делали это с помощью GPU, уже находящихся у вас дома, у соседей и, возможно, у нескольких незнакомцев в интернете.
Открытый проект, возглавляемый разработчиком Майклом Нилом и поддерживаемый Джеком Дорси, объединяет простаивающие GPU Nvidia с нескольких машин в одноранговую сеть, способную выполнять распределенные выводы на крупных языковых моделях.
Как это на самом деле работает
Mesh LLM создает децентрализованную сеть GPU, охватывающую компьютеры под macOS, Linux и Windows, с акцентом на архитектуру CUDA от Nvidia. Вместо того чтобы направлять ваши запросы к ИИ в центры обработки данных OpenAI или Google, система сохраняет все локально или распределяет между подключенными нодами без участия центрального сервера.
Проект предоставляет API, совместимый с OpenAI, что позволяет разработчикам заменить облачные модели на Mesh без переписывания своих приложений. Внутри используется новаторский подход к конвейеру под названием «Skippy», который разделяет крупные модели между несколькими нодами. Например, модель Mixture of Experts с 235 миллиардами параметров разрезается на части и распределяется по доступному оборудованию в сети.
Передача данных осуществляется с использованием библиотеки iroh P2P, которая решает проблему обхода NAT — трудность в сетевом взаимодействии, возникающую при попытке установить соединения типа «точка-точка», когда устройства находятся за маршрутизаторами и брандмауэрами.
В локальной сети Mesh LLM достигает примерно 16 токенов в секунду на модели размером 235 млрд. В сетях широкого доступа скорость варьируется от 10 до 25 токенов в секунду.
Проект поддерживает десятки семейств моделей с открытыми весами, включая Qwen, Llama, GLM и варианты DeepSeek.
Слой вознаграждений
Связанный проект под названием Meshtrain, запущенный 27 августа 2026 года, добавляет систему стимулов для поставщиков GPU. Участники, предоставляющие свои вычислительные ресурсы, зарабатывают «MeshCoin» через P2P локальный реестр.
Это основное приложение — Buzz от Block, где Mesh интегрирован для совместного использования вычислительных ресурсов сообщества. Block, финтех-компания, управляемая Дорси, постоянно расширяет свое присутствие как в bitcoin, так и в децентрализованной инфраструктуре.
Конфиденциальность как функция, а не дополнительная опция
Одним из ключевых преимуществ Mesh LLM является его архитектура без центрального сервера. Когда вы запускаете модель через сеть, ваши данные никогда не контактируют с внешним центром обработки данных.
Производительность снижается в широких сетях по сравнению с локальными настройками. Архитектура работает оптимально, когда ноды расположены географически близко и соединены каналами с низкой задержкой.