LLM'ler için daha büyük bağlam pencereleri hakkında bir soruya yanıt olarak: “Evet, uygun bellek kapasitesine sahip GPU’lar üzerinde. M1 Max’ten beri Apple GPU’ları, hem eğitim hem de çıkarım iş yükleri için 64-192 GB VRAM sunuyor. Sanatçılar için kendi gen AI araçlarımızı eğitmek için 64 GB VRAM gerekiyor; daha yavaş olsa da en azından Apple silicon üzerinde çalışıyor. En üst seviye Ada RTX 6000 bile 48 GB’da duruyor, bu nedenle 80 GB A100 veya H100 yalnızca NVIDIA seçeneği ve bu kartlar, genelde bulabileceğimiz masaüstü sınıfı kartlar değil.” @JulesUrbach 28.07.23 $RENDER