Colocar um modelo de 33B em uma GPU de 12GB parece ser a parte difícil. Na verdade, é decidir o que você pode permitir-se comprometer. Foi isso que se destacou neste teste do Apodex 1.1 no MiniMax H3. O brief estava mudando constantemente: primeiro velocidade e qualidade, depois áudio tornou-se não negociável, e então um setup existente foi entregue para revisão. O resultado mudou junto com ele. Q4 podada em vez de Q4 completa, sem TeaCache, SageAttention apenas se realmente se mostrar útil, e um tempo muito menos otimista de 8 a 15 minutos para 8 segundos de vídeo. Às vezes, a resposta útil é saber qual otimização deixar de lado.
Cletus ElijahCompartilhar
Fonte:Mostrar original
Aviso legal: as informações nesta página podem ter sido obtidas de terceiros e não refletem necessariamente os pontos de vista ou opiniões da KuCoin. Este conteúdo é fornecido apenas para fins informativos gerais, sem qualquer representação ou garantia de qualquer tipo, nem deve ser interpretado como aconselhamento financeiro ou de investimento. A KuCoin não é responsável por quaisquer erros ou omissões, ou por quaisquer resultados do uso destas informações.
Os investimentos em ativos digitais podem ser arriscados. Avalie cuidadosamente os riscos de um produto e a sua tolerância ao risco com base nas suas próprias circunstâncias financeiras. Para mais informações, consulte nossos termos de uso e divulgação de risco.