Я попытался запустить кодировочный модель на 27 млрд параметров на моём Mac с 16 ГБ ОЗУ — конечно, провалился. Он полз со скоростью 0,4 токена в секунду, примерно по 200 секунд на вызов инструмента. Было ужасно, ха-ха. Та же базовая модель на @darkbloomai отвечала за 2 секунды. Тогда я провёл эксперимент: могут ли модели из сети бездействующих Mac от Darkbloom стать мозгом настоящего кодирующего агента? Настройка: шесть моделей Darkbloom, шесть инструментов, необходимых агенту (read, write, edit, shell, grep, glob), и реальные задачи по кодированию, выполняемые в песочнице, с тщательной проверкой каждого результата. Результаты: • 60/60 вызовов инструментов корректно распарсены • 67/71 многошаговых задач решены: исправление бага, переименование в нескольких файлах, поиск вставленного AWS-ключа, устранение SQL-инъекции • Qwen3.8 27B, Gemma 4 26B и GLM 5.3 Flash показали идеальный результат: 12/12 • Общая стоимость всех запусков: около 7 центов (очень дёшево, кстати) Общепринятая точка зрения — открытые модели подходят для чатов, но слишком ненадёжны для агентов. Я начинаю думать иначе. Вот почему это важно. Кодирующие агенты потребляют огромное количество токенов, но большая часть их работы — рутинная: чтение файла, поиск в репозитории, запуск тестов. Я предполагаю, что 25–40% шагов агента можно выполнять на @darkbloomai за долю цены, оставив только сложные этапы на передовых моделях. Это создаст совершенно новую категорию спроса для сети бездействующих Mac, если эксперимент удастся. Эксперимент 2 проверит это именно на реальном трафике... скоро выйдет!!!
.✦ ݁˖Поделиться

Источник:Показать оригинал
Отказ от ответственности: Информация на этой странице может быть получена от третьих лиц и не обязательно отражает взгляды или мнения KuCoin. Данный контент предоставляется исключительно в общих информационных целях, без каких-либо заверений или гарантий, а также не может быть истолкован как финансовый или инвестиционный совет. KuCoin не несет ответственности за ошибки или упущения, а также за любые результаты, полученные в результате использования этой информации.
Инвестиции в цифровые активы могут быть рискованными. Пожалуйста, тщательно оценивайте риски, связанные с продуктом, и свою устойчивость к риску, исходя из собственных финансовых обстоятельств. Для получения более подробной информации, пожалуйста, ознакомьтесь с нашими Условиями использования и Уведомлением о риске.
