Gönderi
avatar

Bu ekonomide kimse VRAM’ı çöpe atmıyor. Ancak kullanılmış bir yerel-AI sistemi hâlâ gerçek bir fırsat olabilir. Bu fırsat genellikle eski sunucu platformları ve sabırlı kaynak arama ile ilgilidir, çöpten bulunan sihirli bir GPU ile değil. VRAM, neyin uyabileceğini gösterir. Bellek bant genişliği, CPU, depolama, güç, soğutma, PCIe kanalları ve yazılım desteği ise sistemin kullanışlı hissedilip hissedilmeyeceğini belirler. DDR4 hâlâ mantıklı olabilir. DDR5 daha hızlı olmalıdır. Bazı MoE iş yükleri için zayıf bir CPU, görünür GPU fırsatını bozabilir. Yapıcılardan biri, aylar boyunca Z440, 12 çekirdekli/24 iplikli Xeon, 128 GB DDR4 ve karışık depolama ile yaklaşık 250 euroya bir sistem kurduğunu bildirdi. Bu, evrensel bir kurulum tarifi değil, faydalı bir ipucudur. Öncelikle tolere edebileceğiniz modeli ve hızı seçin. Sonra darboğazı satın alın. Karışık GPU’lar ve 150 t/s soruları, parçalar yığınıyla cevaplanabilecek vaatler değil, spesifik yığın sorularıdır.

Bu içerik yalnızca bilgilendirme ve eğitim amaçlıdır. Üçüncü taraf görüşlerini, sponsorlu içeriği veya içerik oluşturucunun ücret alabileceği promosyon materyallerini içerebilir. Bu yayındaki hiçbir şey yatırım tavsiyesi veya getiri garantisi teşkil etmez. Kendi yatırım kararlarınızdan yalnızca siz sorumlusunuz. Yatırım yapmadan önce her zaman kendi araştırmanızı yapın ve dikkatli olun. Üçüncü taraf bilgilerinin doğruluğunu garantilemiyoruz ve kayıplardan sorumlu değiliz. Geçmiş performans gelecekteki sonuçların göstergesi değildir. Ayrıntılar için lütfen Topluluk Şartlarına ve Risk Açıklama Beyanına bakınız.

avatarYanıtınızı gönderin

Yorum