Phạt ngữ ngôn không phải chữ Latin khi sử dụng LLMs / quy trình agentic thật sự rất lớn, thật điên rồ. Lần này tôi đã thực hiện thí nghiệm với tiếng Do Thái. Một lần chạy QLoRA duy nhất trong 6h14 đã làm tăng gần gấp đôi độ chính xác khớp chính xác các lệnh công cụ tiếng Do Thái, từ 43,4% lên 83,2%, trong khi độ chính xác tiếng Anh cũng cải thiện từ 70,5% lên 88,4%. Chi tiết toàn bộ quy trình: - Toàn bộ pipeline: 7h14 trên một GPU NVIDIA L40S - Đào tạo: 3.662 bước, 2 epoch, 33,96 triệu token - Bộ nhớ GPU đỉnh điểm: 26.608 MiB - JSON hợp lệ tiếng Do Thái: 81,0% → 99,6% - Độ chính xác tên hàm tiếng Do Thái: 74,7% → 99,2% - Khoảng cách tiếng Do Thái–Anh: −27,6 → −5,2 điểm - Tỷ lệ chuyển đổi: 16.272/17.000 hàng (95,7%) - Chi phí: $14,11