PrismML відкриває джерела моделі генерації зображень Bonsai4B розміром 0,93 ГБ для використання на пристрої

ME AI повідомлення: за даними моніторингу Beating, відкритий моделюваний інференс зображення на кінцевому пристрої PrismML Bonsai Image 4B дозволяє безпосередньо виконувати дифузійний інференс на локальних пристроях, таких як ноутбуки та смартфони. Bonsai Image 4B містить два мінімалістичних стиснених варіанти — 1-бітний та тернарний (тризначний), при цьому розмір основного дифузійного Transformer становить лише 0,93 ГБ та 1,21 ГБ, а повний пакет розгортання на пристроях Apple Silicon — відповідно 3,42 ГБ та 3,88 ГБ. Паралельно було запущено супутнє iOS-додаток Bonsai Studio для генерації зображень без підключення до інтернету. 1-бітна версія спеціально розроблена для пристроїв з обмеженою пам’яттю: вона зменшує розмір дифузійного Transformer, заснованого на FLUX.2 Klein 4B об’ємом 7,75 ГБ, у 8,3 рази, до 0,93 ГБ. Тернарна версія має розмір основного Transformer 1,21 ГБ, що на 6,4 рази менше, ніж у повноточній версії, але вводить тризначні ваги {-1, 0, +1} для збільшення гнучкості виразу, що покращує якість зображення та відповідність промптам при збереженні низького об’єму пам’яті. За результатами тестування, Bonsai Image 4B після значного стиснення залишається конкурентоспроможним щодо основних моделей генерації зображень з набагато більшою кількістю параметрів за показниками композиції об’єктів, схильності до очей, естетичними метриками та здатності дотримуватися складних промптів. 1-бітна та тернарна версії зберегли відповідно 88% та 95% продуктивності повноточних моделей. Мобільний додаток Bonsai Studio дозволяє користувачам генерувати зображення повністю автономно на iPhone — увесь процес виконується локально, без підписки та без надсилання запитів API до хмари. PrismML вже опублікувала обидві версії — 1-бітну та тернарну — за ліцензією Apache 2.0. (Джерело: BlockBeats)