
في رد على سؤال حول نوافذ سياق أكبر لنماذج اللغة الكبيرة: "نعم، على وحدات معالجة الرسومات ذات سعة ذاكرة مناسبة. لاحظ أنه منذ M1 Max، تمتلك وحدات معالجة الرسومات من Apple ما يصل إلى 64-192 جيجابايت من ذاكرة VRAM متاحة لمهام التدريب والاستنتاج. تتطلب اختبارات تدريب أدوات الذكاء الاصطناعي الخاصة بنا للرسامين 64 جيجابايت من ذاكرة VRAM، وحتى لو كانت أبطأ، فهي على الأقل تعمل على شرائح Apple. حتى أعلى بطاقات RTX 6000 من Ada لا تتجاوز 48 جيجابايت، لذا فإن 80 جيجابايت من A100 أو H100 هي الخيار الوحيد من NVIDIA، وهذه البطاقات ليست من فئة سطح المكتب التي نجدها بكثرة هناك" @JulesUrbach 28.07.23 $RENDER
