PrismML Membuka Sumber Model Penghasil Gambar 0.93GB Bonsai4B untuk Penggunaan Di Peranti

ME AI mesej, menurut pemantauan Beating, model generasi imej sisi-akhir sumber terbuka PrismML, Bonsai Image 4B, boleh menjalankan inferensi penyebaran secara langsung pada peranti tempatan seperti laptop dan telefon bimbit. Bonsai Image 4B mengandungi dua versi kompresi ekstrem: 1-bit dan Ternary, dengan saiz Transformer penyebaran inti masing-masing hanya 0.93 GB dan 1.21 GB, manakala saiz pakej penuh pelaksanaan pada peranti Apple Silicon masing-masing ialah 3.42 GB dan 3.88 GB, bersamaan dengan pelancaran aplikasi iOS yang sepadan, Bonsai Studio, untuk menghasilkan imej luar talian di sisi-akhir. Versi 1-bit secara khusus dirancang untuk peranti memori rendah, mengurangkan saiz Transformer penyebaran berdasarkan FLUX.2 Klein 4B sebanyak 7.75 GB kepada hanya 0.93 GB, iaitu 8.3 kali lebih kecil daripada versi presisi penuh. Versi Ternary mempunyai saiz Transformer inti sebanyak 1.21 GB, iaitu 6.4 kali lebih kecil daripada versi presisi penuh, tetapi memperkenalkan bobot ternari {-1, 0, +1} semasa kuantisasi untuk memberikan fleksibiliti ekspresif yang lebih tinggi, dengan demikian meningkatkan kualiti imej dan keakuratan prompt sambil mengekalkan penggunaan storan yang rendah. Menurut ujian, Bonsai Image 4B selepas kompresi besar masih mampu bersaing dengan model generasi imej utama yang jauh lebih besar dalam hal komposisi objek, preferensi mata manusia, metrik estetik, dan keupayaan mengikuti prompt kompleks. Versi 1-bit dan Ternary masing-masing mengekalkan 88% dan 95% prestasi model presisi penuh. Aplikasi mudah alih yang dilancarkan serentak, Bonsai Studio, membenarkan pengguna menghasilkan imej sepenuhnya luar talian di iPhone, dengan proses berjalan sepenuhnya secara tempatan tanpa perlu langgan atau menghantar permintaan API ke awan. PrismML kini telah melepaskan kedua-dua versi 1-bit dan Ternary model tersebut di bawah lesen sumber terbuka Apache 2.0. (Sumber: BlockBeats)