Я спробував запустити 27B кодуючу модель на моєму 16 ГБ Mac — звісно, це не вдалося. Вона повзла зі швидкістю 0,4 токени на секунду, близько 200 секунд на виклик інструменту. Було погано, ха-ха. Та ж базова модель на @darkbloomai відповідала за близько 2 секунд. Тож я провів експеримент: чи можуть моделі з мережі бездіяльних Mac від Darkbloom стати мозком справжнього кодуючого агента? Налаштування: шість моделей Darkbloom, шість інструментів, необхідних агенту (читання, запис, редагування, оболонка, grep, glob), і реальні завдання з кодування, виконані в пісочниці, з усіма результатами, які були строго перевірені. Результати: • 60/60 викликів інструментів були коректно розпарсені • 67/71 багатокрокових завдань вирішено: виправлення бага, переіменування у кількох файлах, пошук вбудованого AWS-ключa, виправлення SQL-ін’єкції • Qwen3.8 27B, Gemma 4 26B і GLM 5.3 Flash показали ідеальний результат: 12/12 • Загальна вартість усіх запусків: близько 7 центів (дуже дешево, між іншим) Поширена думка — відкриті моделі підходять для чату, але занадто нестабільні для агентів. Я починаю думати інакше. Ось чому це має значення. Кодуючі агенти споживають величезну кількість токенів, але більшість того, що вони роблять — це рутинні операції: читання файлу, пошук у репозиторії, запуск тестів. Моя гіпотеза: 25–40% кроків агента можна виконувати на @darkbloomai за частку ціни, залишаючи складніші етапи на передових моделях. Це створить цілу нову категорію попиту для мережі бездіяльних Mac, якщо це вдасться. Експеримент 2 перевіряє саме це на реальному трафіку... скоро вийде!!!
.✦ ݁˖Поділитися

Джерело:Показати оригінал
Відмова від відповідальності: Інформація на цій сторінці може бути отримана від третіх осіб і не обов'язково відображає погляди або думки KuCoin. Цей контент надається лише для загального інформування, без будь-яких запевнень або гарантій, а також не може розглядатися як фінансова або інвестиційна порада. KuCoin не несе відповідальності за будь-які помилки або упущення, а також за будь-які результати, отримані в результаті використання цієї інформації.
Інвестиції в цифрові активи можуть бути ризикованими. Будь ласка, ретельно оцініть ризики продукту та свою толерантність до ризику, виходячи з ваших власних фінансових обставин. Для отримання додаткової інформації, будь ласка, зверніться до наших Умов використання та Розкриття інформації про ризики.
