Виталик Бутерин запускает собственный ИИ-стек на ноутбуке и считает, что вам стоит рассмотреть возможность сделать то же самое. В блог-посте от 2 апреля сооснователь Ethereum представил подробный план по запуску крупных языковых моделей полностью локально, без какой-либо зависимости от облачных провайдеров, их условий использования или их систем сбора данных.
Настройка — это не просто мысленный эксперимент. Бутерин активно использует модели с открытым весом, такие как Qwen3.5:35B, на ноутбуке NVIDIA 5090, достигая примерно 90 токенов в секунду. Этого достаточно для использования в реальном времени в диалогах, что делает концепцию «локального ИИ» более чем амбициозной.
Аппаратное обеспечение и стек
Бутерин протестировал свою конфигурацию на нескольких машинах. Ноутбук NVIDIA 5090 показал явное преимущество по скорости, но он также запустил настройку на AMD Ryzen AI Max Pro с 128 ГБ единой памяти, который показал результат в 51 токен в секунду. Он также протестировал DGX Spark.
Стек программного обеспечения также продуман до мелочей. Бутерин использует NixOS для воспроизводимых конфигураций системы, что позволяет полностью воссоздать среду идентично на основе файла спецификации. Он использует llama-server для размещения моделей локально и песочницы bubblewrap для изоляции процессов друг от друга и от всей системы.
Настройка Бутерина включает пользовательский демон обмена сообщениями, который требует подтверждения человеком перед выполнением любых чувствительных команд. ИИ может предлагать действия, но человек должен одобрить их, прежде чем что-либо будет выполнено в реальном мире.
Почему самоуправление важно сейчас
Бутерин стремится к этой цели с начала 2024 года, когда начал публично подчеркивать необходимость надежных и конфиденциальных инструментов ИИ.
Один из ключевых моментов из блога: примерно 15% «навыков» ИИ — модульных возможностей, которые агенты используют для выполнения задач — могут содержать вредоносный код. Это не гипотетическая оценка риска. Это предупреждение о том, что текущая экосистема агентов, где пользователи скачивают и запускают сторонние плагины с минимальной проверкой, структурно уязвима.
Ethereum AI-игра
Помимо личных настроек, Бутерин выдвинул более широкое предложение, которое может иметь долгосрочные последствия для экосистемы ethereum. Он призвал к разработке моделей ИИ, специально дообученных для использования в сценариях ethereum.
Тонко настроенные модели обучены на данных конкретной области, что означает, что они понимают особенности Ethereum: его архитектуру EVM, стандарты токенов, модели управления, а также то, как его децентрализованные финансовые протоколы взаимодействуют друг с другом. Общая модель может отвечать на вопросы об Ethereum. Тонко настроенная модель может рассуждать о нём.
Видение Бутерина позиционирует ethereum не просто как блокчейн, а как экономический и координационный слой для децентрализованных ИИ-агентов. Если агентам необходимо совершать транзакции, проверять идентичность или координировать действия друг с другом в средах без доверия, существующая инфраструктура ethereum, смарт-контракты, децентрализованная идентичность и программируемые деньги становятся естественной основой.
Новые токены или протоколы не запускались вместе с блог-постом. Это мышление на уровне инфраструктуры, а не объявление о продукте.