META BARU SAHAJA MELUNCURKAN MODEL AI BERBOBOT 816B YANG BOLEH DIJALANKAN PADA DUA MAC STUDIOS @Meta telah melancarkan Muse Spark Open, model AI baharu mereka yang direka untuk tugas pengkodean kompleks, agen autonomi, dan tugas kejuruteraan jangka panjang. Bahagian yang tidak biasa ialah pembangun boleh memuat turun berat model dan menjalankan model berskala sebegini pada peranti tempatan, bukannya bergantung sepenuhnya pada API awan. Berikut adalah apa yang Meta masukkan ke dalamnya: 816B parameter keseluruhan 42B parameter aktif setiap token Tingkap konteks 1M-token Input teks, imej, video, dan audio asli Sokongan untuk peranti AMD, Apple, Intel, dan NVIDIA Arsitektur ini menggunakan Mixture of Experts. Alih-alih mengaktifkan semua 816 bilion parameter untuk setiap token, model ini hanya menggunakan kira-kira 42 bilion, mengurangkan pengiraan yang diperlukan semasa inferens. Ini menjadikan pelaksanaan atas desktopnya sangat menarik. Meta bekerjasama dengan Apple untuk mengoptimumkan Muse Spark Open bagi dua Mac Studios M5 Ultra menggunakan kerangka MLX. Bersama-sama, mesin-mesin ini menyediakan sehingga 1TB memori terpadu. Syarikat ini juga menunjukkan alur kerja agen sebenar yang dijalankan secara tempatan: Membaiki ralat dan melaksanakan ciri-ciri dalam aplikasi iOS Menyelesaikan pembinaan perisian melalui Muse Code Mengawal DaVinci Resolve untuk menganalisis rakaman Mengenal pasti momen video yang kuat dan mencipta pemotongan menegak Model ini tersedia melalui Hugging Face dan penyedia API termasuk Groq, Together AI, Fireworks, dan OpenRouter. Tetapi terdapat perbezaan penting. Berbobot terbuka tidak bermaksud sumber terbuka tanpa sekatan. Lesen Model Muse Meta mengandungi sekatan komersial, dan menjalankan model 816B secara tempatan masih memerlukan peranti mahal. Apa yang paling menarik perhatian saya ialah apa yang ini boleh bermaksud untuk operasi berasaskan AI. Pasukan pemasaran semakin membina agen yang memproses perbualan pelanggan, menganalisis pesaing, mengklasifikasikan kandungan, dan mengkoordinasikan alur kerja pengeluaran. Saat ini, banyak sistem ini bergantung pada penyedia model luaran untuk setiap langkah. Model berbobot terbuka yang lebih cekap mencipta pilihan lain: menjalankan penyelidikan sensitif, pemprosesan pengetahuan dalaman, dan agen khusus pada infrastruktur yang dikendalikan oleh organisasi tersebut. Ini tidak secara automatik menjadikan AI tempatan lebih murah atau lebih baik. Kos pelaksanaan, kelajuan inferens, penyelenggaraan, dan kualiti model masih menentukan sama ada ia munasabah. Tetapi landskap persaingan sedang berubah. Akses kepada model berkuasa secara beransur-ansur menjadi kurang bergantung kepada beberapa penyedia API tertutup semata-mata. Dan apabila akses model menjadi lebih fleksibel, kelebihan berpindah kepada pasukan yang mampu membina alur kerja yang boleh dipercayai, menyambungkan data eksklusif, dan menukar kemampuan AI menjadi sistem yang berguna.
