Tether Data Ra Mắt QVAC Fabric LLM để Hỗ Trợ Huấn Luyện Mô Hình Ngôn Ngữ Lớn (LLM) Trên Các Thiết Bị Người Dùng

Theo báo cáo của HashNews, Tether Data đã công bố ra mắt QVAC Fabric LLM, một khung làm việc mới dành cho quá trình suy luận và tinh chỉnh của mô hình ngôn ngữ lớn. Công nghệ này cho phép người dùng vận hành, huấn luyện và tùy chỉnh các mô hình ngôn ngữ lớn trực tiếp trên GPU cấp tiêu dùng, máy tính xách tay và điện thoại thông minh, loại bỏ nhu cầu sử dụng các máy chủ đám mây cao cấp hoặc hệ thống NVIDIA. QVAC Fabric LLM hỗ trợ các mô hình như Llama3, Qwen3 và Gemma3, đồng thời mở rộng hệ sinh thái llama.cpp. Việc huấn luyện được hỗ trợ trên GPU từ AMD, Intel, NVIDIA, Apple và các chip di động. Khung làm việc này được mã nguồn mở theo giấy phép Apache 2.0, với các tệp nhị phân được xây dựng sẵn và các bộ điều hợp sẵn sàng sử dụng có sẵn trên Hugging Face, giúp các nhà phát triển tinh chỉnh mô hình chỉ với một vài lệnh.