PrismML disponibiliza gratuitamente o modelo de geração de imagens Bonsai4B de 0,93 GB para uso em dispositivo

ME AI mensagem, segundo monitoramento da Beating, o modelo de geração de imagem em borda de código aberto PrismML, Bonsai Image 4B, permite inferência de difusão diretamente em dispositivos locais como notebooks e smartphones. O Bonsai Image 4B inclui duas versões de compressão extremamente simplificadas: 1-bit e Ternary (ternária), com o núcleo do Transformer de difusão medindo apenas 0,93 GB e 1,21 GB, respectivamente. O pacote completo de implantação em dispositivos Apple Silicon corresponde a 3,42 GB e 3,88 GB, acompanhado pelo aplicativo iOS Bonsai Studio para geração de imagens off-line em borda. A versão 1-bit foi projetada especificamente para hardware com baixa memória, reduzindo o tamanho do Transformer de difusão baseado no FLUX.2 Klein 4B de 7,75 GB para apenas 0,93 GB — oito vezes e três décimos menor que a versão de precisão total. A versão Ternary possui um Transformer principal de 1,21 GB, reduzindo o tamanho em 6,4 vezes em comparação à versão de precisão total, mas introduz pesos ternários {-1, 0, +1} durante a quantização para oferecer maior flexibilidade expressiva, melhorando a qualidade da imagem e a fidelidade aos prompts, mantendo ao mesmo tempo baixo consumo de armazenamento. Segundo avaliações, mesmo após a significativa redução de tamanho, o Bonsai Image 4B mantém desempenho competitivo com modelos principais de geração de imagem muito maiores em termos de parâmetros, em aspectos como composição de objetos, preferência humana, métricas estéticas e capacidade de seguir prompts complexos. As versões 1-bit e Ternary retêm respectivamente 88% e 95% do desempenho do modelo de precisão total. O aplicativo móvel Bonsai Studio, lançado simultaneamente, permite aos usuários gerar imagens totalmente off-line no iPhone, com todo o processo ocorrendo localmente, sem necessidade de assinatura nem envio de solicitações API para a nuvem. A PrismML já lançou oficialmente as versões 1-bit e Ternary do modelo sob a licença de código aberto Apache 2.0. (Fonte: BlockBeats)