META VỪA RA MẮT MÔ HÌNH AI 816B MỞ TRỌNG LƯỢNG HOẠT ĐỘNG TRÊN HAI MAC STUDIOS @Meta đã ra mắt Muse Spark Open, mô hình AI mới của họ được xây dựng dành cho mã hóa phức tạp, các tác nhân tự chủ và các nhiệm vụ kỹ thuật kéo dài. Điều bất thường là các nhà phát triển có thể tải về trọng số và chạy mô hình quy mô lớn này trên phần cứng cục bộ thay vì hoàn toàn phụ thuộc vào các API đám mây. Đây là những gì Meta đã tích hợp vào nó: - 816 tỷ tham số tổng cộng - 42 tỷ tham số hoạt động mỗi token - Cửa sổ ngữ cảnh 1 triệu token - Đầu vào bản văn, hình ảnh, video và âm thanh bản địa - Hỗ trợ phần cứng AMD, Apple, Intel và NVIDIA Kiến trúc sử dụng Mixture of Experts. Thay vì kích hoạt tất cả 816 tỷ tham số cho mỗi token, mô hình chỉ sử dụng khoảng 42 tỷ, giảm đáng kể lượng tính toán cần thiết trong quá trình suy luận. Điều này khiến việc triển khai trên máy để bàn trở nên đặc biệt thú vị. Meta đã hợp tác với Apple để tối ưu Muse Spark Open cho hai Mac Studio M5 Ultra sử dụng khung MLX. Cùng nhau, hai máy này cung cấp tới 1TB bộ nhớ thống nhất. Công ty cũng đã trình diễn các luồng tác nhân thực tế chạy cục bộ: - Sửa lỗi và triển khai tính năng trong ứng dụng iOS - Hoàn thành quá trình xây dựng phần mềm thông qua Muse Code - Điều khiển DaVinci Resolve để phân tích cảnh quay - Xác định những khoảnh khắc video nổi bật và tạo bản cắt dọc Mô hình hiện có sẵn qua Hugging Face và các nhà cung cấp API bao gồm Groq, Together AI, Fireworks và OpenRouter. Tuy nhiên, có một sự phân biệt quan trọng. “Open-weight” không có nghĩa là mã nguồn mở không giới hạn. Giấy phép Mô hình Muse của Meta bao gồm các hạn chế thương mại, và việc chạy mô hình 816B cục bộ vẫn đòi hỏi phần cứng đắt tiền. Điều khiến tôi quan tâm nhất là điều này có thể mang lại ý nghĩa gì cho các hoạt động bản địa AI. Các đội ngũ marketing ngày càng xây dựng các tác nhân xử lý cuộc trò chuyện khách hàng, phân tích đối thủ cạnh tranh, phân loại nội dung và phối hợp luồng công việc sản xuất. Hiện nay, nhiều hệ thống đó phụ thuộc vào các nhà cung cấp mô hình bên ngoài cho từng bước. Các mô hình mở trọng lượng mạnh mẽ hơn tạo ra một lựa chọn khác: chạy các nghiên cứu nhạy cảm, xử lý tri thức nội bộ và các tác nhân chuyên biệt trên hạ tầng do tổ chức kiểm soát. Điều này không tự động khiến AI cục bộ rẻ hơn hay tốt hơn. Chi phí triển khai, tốc độ suy luận, bảo trì và chất lượng mô hình vẫn là những yếu tố quyết định liệu việc này có hợp lý hay không. Nhưng bối cảnh cạnh tranh đang thay đổi. Việc tiếp cận các mô hình mạnh mẽ dần trở nên ít phụ thuộc vào một vài nhà cung cấp API đóng. Và khi việc tiếp cận mô hình trở nên linh hoạt hơn, lợi thế sẽ chuyển sang các đội ngũ có thể xây dựng các luồng công việc đáng tin cậy, kết nối dữ liệu sở hữu và biến các khả năng AI thành các hệ thống hữu ích.