META BARU SAJA MELOMBAKAN MODEL AI BERBOBOT TERBUKA 816B YANG BISA DIJALANKAN DI DUA MAC STUDIOS
@Meta telah merilis Muse Spark Open, model AI barunya yang dirancang untuk pemrograman kompleks, agen otonom, dan tugas teknik jangka panjang.
Bagian yang tidak biasa adalah para pengembang dapat mengunduh bobotnya dan menjalankan model sebesar ini di perangkat lokal, bukan bergantung sepenuhnya pada API cloud.
Berikut yang dimasukkan Meta ke dalamnya:
816 miliar parameter total
42 miliar parameter aktif per token
Jendela konteks 1 juta token
Dukungan input teks, gambar, video, dan audio secara native
Dukungan untuk perangkat keras AMD, Apple, Intel, dan NVIDIA
Arsitektur ini menggunakan Mixture of Experts. Alih-alih mengaktifkan semua 816 miliar parameter untuk setiap token, model ini hanya menggunakan sekitar 42 miliar, sehingga mengurangi kebutuhan komputasi selama inferensi.
Hal ini membuat penerapan di desktop menjadi sangat menarik.
Meta bekerja sama dengan Apple untuk mengoptimalkan Muse Spark Open agar berjalan di dua Mac Studio M5 Ultra menggunakan kerangka kerja MLX. Bersama-sama, kedua mesin ini menyediakan hingga 1 TB memori terpadu.
Perusahaan juga memperagakan alur kerja agen nyata yang berjalan secara lokal:
Memperbaiki bug dan mengimplementasikan fitur dalam aplikasi iOS
Menyelesaikan proses build perangkat lunak melalui Muse Code
Mengontrol DaVinci Resolve untuk menganalisis rekaman
Mengidentifikasi momen video kuat dan membuat pemotongan vertikal
Model ini tersedia melalui Hugging Face dan penyedia API termasuk Groq, Together AI, Fireworks, dan OpenRouter.
Namun ada perbedaan penting. Berbobot terbuka tidak berarti sumber terbuka tanpa batas. Lisensi Model Muse Meta mencakup batasan komersial, dan menjalankan model 816 miliar secara lokal tetap memerlukan perangkat keras mahal.
Yang paling menarik bagi saya adalah apa yang bisa berarti ini bagi operasi berbasis AI.
Tim pemasaran semakin membangun agen yang memproses percakapan pelanggan, menganalisis pesaing, mengklasifikasikan konten, dan mengoordinasikan alur kerja produksi.
Saat ini, banyak sistem tersebut bergantung pada penyedia model eksternal untuk setiap langkah.
Model berbobot terbuka yang lebih canggih menciptakan pilihan lain: menjalankan penelitian sensitif, pemrosesan pengetahuan internal, dan agen khusus di infrastruktur yang dikendalikan organisasi.
Ini tidak otomatis membuat AI lokal lebih murah atau lebih baik. Biaya penerapan, kecepatan inferensi, pemeliharaan, dan kualitas model tetap menentukan apakah itu masuk akal.
Namun lanskap persaingan sedang berubah.
Akses ke model kuat secara bertahap menjadi kurang bergantung pada sejumlah kecil penyedia API tertutup.
Dan seiring akses model menjadi lebih fleksibel, keunggulan berpindah ke tim yang mampu membangun alur kerja andal, menghubungkan data propietari, dan mengubah kemampuan AI menjadi sistem yang berguna.