LLMs کے لیے بڑے کنٹیکس ونڈوز کے بارے میں ایک سوال کے جواب میں: “ہاں، مناسب میموری فٹ پرنٹ والے GPU پر۔ نوٹ کریں کہ M1 Max کے بعد، ایپل GPU میں تربیت اور انفرنس دونوں کے لیے حیرت انگیز 64 سے 192 GB VRAM دستیاب ہے۔ ہم نے آرٹسٹس کے لیے اپنے جنریٹو AI ٹولز کی تربیت کے لیے 64 GB VRAM کی ضرورت محسوس کی، چاہے سست ہو، لیکن ایپل سلیکون پر کام کرتا ہے۔ سب سے زیادہ اعلیٰ ایڈا RTX 6000 صرف 48 GB تک محدود ہے، اس لیے 80 GB A100 یا H100 صرف NVIDIA کا آپشن ہے اور یہ ڈیسک ٹاپ کلاس کارڈ نہیں ہیں جو ہم وہاں بڑی تعداد میں پائیں گے” @JulesUrbach 28.07.23 $RENDER