source avatarWarden

Paylaş

Meta, iki Mac Studio üzerinde çalışabilen 816B açık ağırlıklı bir AI modeli yayınladı. @Meta, karmaşık kodlama, özerk ajanlar ve uzun süreli mühendislik görevleri için geliştirilen yeni AI modeli Muse Spark Open’ı yayınladı. İlginç olan, geliştiricilerin bu ölçekteki bir modelin ağırlıklarını indirip bulut API’lerine tamamen bağımlı kalmadan yerel donanımda çalıştırmaları. Meta’nın bunun içine koyduğu özellikler şunlar: Toplam 816 milyar parametre Her token için 42 milyar aktif parametre 1 milyon token’lık bağlam penceresi Yerel metin, görüntü, video ve ses girişi desteği AMD, Apple, Intel ve NVIDIA donanımları desteği Mimari, Uzmanların Karışımı (Mixture of Experts) kullanıyor. Her token için tüm 816 milyar parametreyi etkinleştirmek yerine, model yaklaşık 42 milyar parametre kullanıyor; bu da çıkarım sırasında gerekli hesaplama miktarını azaltıyor. Bu da masaüstü üzerindeki uygulamasını özellikle ilginç hale getiriyor. Meta, Muse Spark Open’ı MLX çerçevesi kullanarak iki M5 Ultra Mac Studio için Apple ile optimize etti. Bu iki makine birlikte en fazla 1 TB birleşik bellek sağlıyor. Şirket ayrıca yerel olarak çalışan gerçek ajan iş akışlarını da gösterdi: iOS uygulamasında hataları düzeltmek ve özellikler eklemek Muse Code aracılığıyla yazılım derlemelerini tamamlamak DaVinci Resolve’u kontrol ederek görüntüleri analiz etmek Güçlü video anlarını tanımlamak ve dikey kırpma oluşturmak Model, Hugging Face ve Groq, Together AI, Fireworks ve OpenRouter gibi API sağlayıcıları aracılığıyla mevcut. Ancak önemli bir ayrım var. Açık ağırlıklı olmak, sınırsız açık kaynak anlamına gelmiyor. Meta’nın Muse Model Lisansı ticari kısıtlamalar içeriyor ve 816B modelini yerel olarak çalıştırmak hâlâ pahalı donanım gerektiriyor. Beni en çok ilgilendiren şey, bunun AI-native operasyonlar için ne anlama gelebileceği. Pazarlama ekipleri, müşteri görüşmelerini işleme, rakipleri analiz etme, içeriği sınıflandırma ve üretim iş akışlarını koordine etme gibi ajanlar oluşturmakta giderek daha fazla yer alıyor. Bugün bu sistemlerin çoğu her adımda dış model sağlayıcılarına bağımlı. Daha yetenekli açık ağırlıklı modeller, başka bir seçenek sunuyor: hassas araştırmaları, dahili bilgi işleme ve özel ajanları, organizasyonun kontrolü altındaki altyapıda çalıştırmak. Bu otomatik olarak yerel AI’nın daha ucuz veya daha iyi olmasını anlamına gelmiyor. Dağıtım maliyetleri, çıkarım hızı, bakım ve model kalitesi hâlâ bunun mantıklı olup olmadığını belirliyor. Ancak rekabet ortamı değişiyor. Güçlü modellere erişim, giderek az sayıda kapalı API sağlayıcısına bağımlı olmaktan çıkıyor. Ve model erişimi daha esnek hale geldikçe, avantaj güvenilir iş akışları kurabilen, özel verileri bağlayabilen ve AI yeteneklerini kullanışlı sistemlere dönüştürebilen ekiplere kayıyor.

Yasal Uyarı: Bu sayfadaki bilgiler üçüncü şahıslardan alınmış olabilir ve KuCoin'in görüşlerini veya fikirlerini yansıtmayabilir. Bu içerik, herhangi bir beyan veya garanti olmaksızın yalnızca genel bilgilendirme amacıyla sağlanmıştır ve finansal veya yatırım tavsiyesi olarak yorumlanamaz. KuCoin, herhangi bir hata veya eksiklikten veya bu bilgilerin kullanımından kaynaklanan sonuçtan sorumlu değildir. Dijital varlıklara yapılan yatırımlar riskli olabilir. Lütfen bir ürünün risklerini ve risk toleransınızı kendi finansal koşullarınıza göre dikkatlice değerlendirin. Daha fazla bilgi için lütfen Kullanım Koşullarımıza ve Risk Açıklamamıza bakınız.