Caltech открывает исходный код 1-битной модели Bonsai: 8 млрд параметров при объеме 1,15 ГБ и 44 ток/с на iPhone

iconChainthink
Поделиться
Share IconShare IconShare IconShare IconShare IconShare IconCopy
AI summary iconСводка

expand icon
Новости на блокчейне: Caltech’s PrismML под руководством Бабака Хассиби открыла исходный код 1-битных моделей Bonsai AI. Версия 8B имеет 8,2 миллиарда параметров, занимает 1,15 ГБ памяти и работает со скоростью 44 токена в секунду на iPhone 17 Pro Max. Новости AI + криптовалюты: Модель потребляет в 4–5 раз меньше энергии, чем 16-битные версии. PrismML привлекла 16,25 миллиона долларов в рамках SAFE и стартовых раундов от Khosla Ventures, Cerberus Capital и Caltech.

Сообщение ChainThink, 1 апреля 2026 года: согласно данным 1M AI News, лаборатория искусственного интеллекта PrismML, основанная математиком Калифорнийского технологического института Бабаком Хассиби, завершила период скрытой разработки и открыла исходный код серии больших языковых моделей 1-bit Bonsai. Флагманская модель 1-bit Bonsai 8B имеет 8,2 миллиарда параметров и занимает всего 1,15 ГБ памяти, что составляет примерно 14-кратное сжатие по сравнению с аналогичными 16-битными моделями. Одновременно были выпущены две более компактные модели: 4B (0,5 ГБ) и 1,7B (0,24 ГБ).


Bonsai 8B — это энд-ту-энд истинная 1-битная модель, в которой все слои: встраивания, внимания, MLP и выходной слой, используют исключительно веса +1 или -1, без высокоточных коррекций. PrismML утверждает, что ее способности к выводу и пониманию языка на стандартных тестах сопоставимы с 16-битными полноточными моделями. Основная математика сжатия была разработана командой в Калифорнийском технологическом институте в течение нескольких лет, интеллектуальная собственность принадлежит Калифорнийскому технологическому институту, а PrismML является единственным эксклюзивным лицензиатом. Модель обучалась на TPU v4 от Google.


На практике скорость на M4 Pro Mac составляет 136 ток/с, на RTX 4090 — 440 ток/с, на iPhone 17 Pro Max — около 44 ток/с; стандартная 16-битная модель размером 8B не помещается ни на одном iPhone, а энергопотребление снижено примерно в 4–5 раз по сравнению с 16-битной моделью. PrismML отмечает, что существующее оборудование не предназначено для 1-битного вывода, и преимущества по скорости и энергопотреблению в основном обусловлены сокращением объема памяти; если в будущем появится оборудование, специально разработанное для 1-битного вывода, эффективность можно будет повысить еще на порядок.


PrismML завершила раунд финансирования в размере 16,25 млн долларов США по формату SAFE и семя, инвесторами выступили Khosla Ventures, Cerberus Capital и Калифорнийский технологический институт. Основатель Khosla Ventures Винод Хосла оценил этот результат как «не небольшую итерацию, а значительный технологический прорыв, математический прорыв, а не просто еще одна небольшая модель».

Отказ от ответственности: Информация на этой странице может быть получена от третьих лиц и не обязательно отражает взгляды или мнения KuCoin. Данный контент предоставляется исключительно в общих информационных целях, без каких-либо заверений или гарантий, а также не может быть истолкован как финансовый или инвестиционный совет. KuCoin не несет ответственности за ошибки или упущения, а также за любые результаты, полученные в результате использования этой информации. Инвестиции в цифровые активы могут быть рискованными. Пожалуйста, тщательно оценивайте риски, связанные с продуктом, и свою устойчивость к риску, исходя из собственных финансовых обстоятельств. Для получения более подробной информации, пожалуйста, ознакомьтесь с нашими Условиями использования и Уведомлением о риске.