Xiaohongshu mở nguồn BigMac, một mô hình đào tạo đa phương tiện mới

iconKuCoinFlash
Chia sẻ
This is the logo of the coin.
META
----
AI summary iconTóm tắt
Xiaohongshu mở nguồn BigMac, một mô hình đào tạo đa phương tiện mới được xây dựng trên MetaEra. Mô hình sử dụng một đường ống lồng ghép an toàn về phụ thuộc để kết hợp các phép tính bộ mã hóa và bộ tạo trong đường ống LLM. Nó mang lại tốc độ nhanh hơn 1,08x-1,9x so với các phương pháp tiêu chuẩn trong khi vẫn giữ bộ nhớ kích hoạt ở mức giới hạn. BigMac hiện hỗ trợ đào tạo sản xuất cho mô hình đa phương tiện dots. Sự quan tâm mở tiếp tục tăng khi mô hình ngày càng được chấp nhận rộng rãi.

Tin tức từ ME News, ngày 22 tháng 7 (UTC+8), nhóm kỹ thuật Xiaohongshu đã mở nguồn BigMac, một mô hình mới về luồng ống dẫn lồng ghép an toàn về phụ thuộc dành riêng cho việc huấn luyện mô hình lớn đa phương thức. BigMac lấy luồng ống dẫn LLM làm cốt lõi, nhúng các phép tính bộ mã hóa và bộ tạo mà không làm thay đổi thứ tự thực thi, đạt tốc độ tăng 1,08x-1,9x so với các triển khai cơ sở, đồng thời duy trì bộ nhớ kích hoạt bị giới hạn. BigMac đã được đưa vào sản xuất như một thành phần cốt lõi trong huấn luyện mô hình đa phương thức dots. 🔗 Đọc bài gốc: https://mp.weixin.qq.com/s/tNJARtn1jIayL5URg87Row qua AI HOT · https://aihot.virxact.com/items/cmrvx8ycy0240bipz0pkrvryq (Nguồn: AiHot)

Nguồn:Hiển thị bản gốc
Tuyên bố miễn trừ trách nhiệm: Thông tin trên trang này có thể được lấy từ bên thứ ba và không nhất thiết phản ánh quan điểm hoặc ý kiến của KuCoin. Nội dung này chỉ được cung cấp cho mục đích thông tin chung, không có bất kỳ đại diện hay bảo đảm nào dưới bất kỳ hình thức nào và cũng không được hiểu là lời khuyên tài chính hay đầu tư. KuCoin sẽ không chịu trách nhiệm về bất kỳ sai sót hoặc thiếu sót nào hoặc về bất kỳ kết quả nào phát sinh từ việc sử dụng thông tin này. Việc đầu tư vào tài sản kỹ thuật số có thể tiềm ẩn nhiều rủi ro. Vui lòng đánh giá cẩn thận rủi ro của sản phẩm và khả năng chấp nhận rủi ro của bạn dựa trên hoàn cảnh tài chính của chính bạn. Để biết thêm thông tin, vui lòng tham khảo Điều khoản sử dụng và Tiết lộ rủi ro của chúng tôi.