Віталік Бутерін запускає власний AI-стек на ноутбуці і вважає, що ви також варто розглянути таку можливість. У блог-пості від 2 квітня співзасновник ethereum детально описав план для запуску великих мовних моделей повністю локально, без будь-якої залежності від хмарних провайдерів, їхніх умов використання або їхніх систем збору даних.
Це не просто думковий експеримент. Бутерін активно використовує моделі з відкритими вагами, такі як Qwen3.5:35B, на ноутбуці NVIDIA 5090, досягаючи приблизно 90 токенів за секунду. Це достатньо швидко для реального часу розмовного використання, що робить концепцію «локального ШІ» більш ніж аспірацією.
Апаратне забезпечення та стек
Бутерін протестував свою конфігурацію на кількох пристроях. Найшвидшим виявився ноутбук NVIDIA 5090, але він також запустив налаштування на AMD Ryzen AI Max Pro з 128 ГБ єдиної пам’яті, який показав результат 51 токен на секунду. Він також протестував DGX Spark.
Стек програмного забезпечення також обраний обдумано. Бутерін використовує NixOS для відтворюваних конфігурацій системи, що означає, що весь середовище може бути відновлено ідентично з файлу специфікації. Він використовує llama-server для розгортання моделей локально та bubblewrap-сандбокси для ізоляції процесів один від одного та від загальної системи.
Налаштування Бутеріна включає користувацький демон повідомлень, який вимагає підтвердження людини перед виконанням будь-яких чутливих команд. ШІ може пропонувати дії, але людина повинна схвалити їх, перш ніж що-небудь торкнеться реального світу.
Чому самосувереність важлива зараз
Бутерін розробляв цю ідею з початку 2024 року, коли почав публічно підкреслювати необхідність надійних, приватних інструментів ШІ.
Одна деталь із блог-посту вирізняється: приблизно 15% «навичок» ШІ — модулярних можливостей, які агенти використовують для виконання завдань — можуть містити шкідливий код. Це не гіпотетична оцінка ризику. Це попередження про те, що поточна екосистема агентів, де користувачі завантажують і запускають сторонні плагіни з мінімальним аудитом, структурно вразлива.
Ethereum AI-гра
За межами особистої налаштованості Бутерін висунув більш широку пропозицію, яка може мати довготривалий вплив на екосистему ethereum. Він закликав розробляти моделі ШІ, спеціально доналаштовані для використання в ethereum.
Налаштовані моделі навчаються на даних конкретної галузі, що означає, що вони розуміють особливості Ethereum: його архітектуру EVM, стандарти токенів, шаблони управління, спосіб, яким його протоколи DeFi взаємодіють один з одним. Загальна модель може відповідати на запитання про Ethereum. Налаштована модель може міркувати про нього.
Бачення Бутеріна позиціонує ethereum не просто як блокчейн, а як економічний та координаційний рівень для децентралізованих агентів ШІ. Якщо агентам потрібно здійснювати транзакції, перевіряти ідентичність або координувати дії між собою у середовищах без довіри, існуюча інфраструктура ethereum, смартконтракти, децентралізована ідентичність та програмований грошовий обіг стають природною основою.
Поруч із блог-постом не було запущено нових токенів чи протоколів. Це міркування на рівні інфраструктури, а не оголошення про продукт.