Штраф за нелатинские языки при использовании LLM / агентных рабочих процессов настолько велик, что это безумие. На этот раз я провёл эксперимент с ивритом. Одна тренировка QLoRA продолжительностью 6 ч 14 мин почти удвоила точность точного совпадения вызовов инструментов на иврите — с 43,4% до 83,2%, при этом точность на английском также выросла с 70,5% до 88,4%. Подробности полного цикла: - Полный конвейер: 7 ч 14 мин на одном GPU NVIDIA L40S - Обучение: 3 662 шага, 2 эпохи, 33,96 млн токенов - Пиковое потребление памяти GPU: 26 608 МиБ - Корректный JSON на иврите: 81,0% → 99,6% - Точность названий функций на иврите: 74,7% → 99,2% - Разрыв между ивритом и английским: −27,6 → −5,2 пункта - Производительность перевода: 16 272/17 000 строк (95,7%) - Стоимость: $14,11
abdelПоделиться

Источник:Показать оригинал
Отказ от ответственности: Информация на этой странице может быть получена от третьих лиц и не обязательно отражает взгляды или мнения KuCoin. Данный контент предоставляется исключительно в общих информационных целях, без каких-либо заверений или гарантий, а также не может быть истолкован как финансовый или инвестиционный совет. KuCoin не несет ответственности за ошибки или упущения, а также за любые результаты, полученные в результате использования этой информации.
Инвестиции в цифровые активы могут быть рискованными. Пожалуйста, тщательно оценивайте риски, связанные с продуктом, и свою устойчивость к риску, исходя из собственных финансовых обстоятельств. Для получения более подробной информации, пожалуйста, ознакомьтесь с нашими Условиями использования и Уведомлением о риске.