La pénalité pour les langues non latines lors de l’utilisation de LLMs / workflows agents est tellement importante, c’est fou. J’ai effectué cette expérience avec l’hébreu cette fois-ci. Une seule exécution QLoRA de 6h14 a presque doublé la précision exacte des appels d’outils en hébreu, passant de 43,4 % à 83,2 %, tandis que la précision en anglais a également augmenté, de 70,5 % à 88,4 %. Détails de l’exécution complète : - Pipeline complet : 7h14 sur un GPU NVIDIA L40S - Entraînement : 3 662 étapes, 2 époques, 33,96 M de tokens - Mémoire GPU maximale : 26 608 MiB - JSON hébreu valide : 81,0 % → 99,6 % - Précision des noms de fonctions en hébreu : 74,7 % → 99,2 % - Écart hébreu-anglais : −27,6 → −5,2 points - Taux de traduction : 16 272/17 000 lignes (95,7 %) - Coût : 14,11 $
abdelPartager
Source:Afficher l'original
Clause de non-responsabilité : les informations sur cette page peuvent avoir été obtenues auprès de tiers et ne reflètent pas nécessairement les points de vue ou opinions de KuCoin. Ce contenu est fourni à titre informatif uniquement, sans aucune représentation ou garantie d’aucune sorte, et ne doit pas être interprété comme un conseil en investissement. KuCoin ne sera pas responsable des erreurs ou omissions, ni des résultats résultant de l’utilisation de ces informations.
Les investissements dans les actifs numériques peuvent être risqués. Veuillez évaluer soigneusement les risques d’un produit et votre tolérance au risque en fonction de votre propre situation financière. Pour plus d’informations, veuillez consulter nos conditions d’utilisation et divulgation des risques.