एलएलएम के लिए बड़े कॉन्टेक्स्ट विंडोज के बारे में एक प्रश्न के जवाब में: “हाँ, उपयुक्त मेमोरी फुटप्रिंट वाले GPU पर। ध्यान दें कि M1 Max के बाद से, ऐपल GPU में ट्रेनिंग और इन्फरेंस दोनों के लिए 64 - 192 GB VRAM उपलब्ध है। हमारे कलाकारों के लिए अपने जेनरेटिव AI टूल्स के ट्रेनिंग के लिए 64 GB VRAM की आवश्यकता होती है, भले ही यह धीमा हो, लेकिन यह कम से कम Apple silicon पर काम करता है। सबसे उच्च अंतिम Ada RTX 6000 की सीमा केवल 48 GB है, इसलिए 80 GB A100 या H100 केवल NVIDIA का विकल्प है और ये डेस्कटॉप क्लास कार्ड नहीं हैं जो हम वहाँ पर बड़ी संख्या में पाएँगे” @JulesUrbach 28.07.23 $RENDER