source avatarabdel

Compartilhar

A penalidade para idiomas não latinos ao usar LLMs / fluxos de trabalho agentes é tão grande, que é louco. Fiz o experimento com hebraico desta vez. Uma única execução de QLoRA de 6h14 quase dobrou a precisão de correspondência exata de chamadas de ferramentas em hebraico, de 43,4% para 83,2%, enquanto a precisão em inglês também melhorou de 70,5% para 88,4%. Detalhes da execução completa: - Pipeline completo: 7h14 em uma GPU NVIDIA L40S - Treinamento: 3.662 etapas, 2 épocas, 33,96M tokens - Memória máxima da GPU: 26.608 MiB - JSON válido em hebraico: 81,0% → 99,6% - Precisão de nomes de funções em hebraico: 74,7% → 99,2% - Diferença hebraico-inglês: −27,6 → −5,2 pontos - Rendimento de tradução: 16.272/17.000 linhas (95,7%) - Custo: $14,11

No.0 picture
Aviso legal: as informações nesta página podem ter sido obtidas de terceiros e não refletem necessariamente os pontos de vista ou opiniões da KuCoin. Este conteúdo é fornecido apenas para fins informativos gerais, sem qualquer representação ou garantia de qualquer tipo, nem deve ser interpretado como aconselhamento financeiro ou de investimento. A KuCoin não é responsável por quaisquer erros ou omissões, ou por quaisquer resultados do uso destas informações. Os investimentos em ativos digitais podem ser arriscados. Avalie cuidadosamente os riscos de um produto e a sua tolerância ao risco com base nas suas próprias circunstâncias financeiras. Para mais informações, consulte nossos termos de uso e divulgação de risco.