針對關於 LLM 較大上下文視窗的提問: 「是的,適用於具有合適記憶體佔用的 GPU。請注意,自 M1 Max 起,蘋果 GPU 已提供驚人的 64–192 GB VRAM,可用於訓練和推論工作負載。我們為藝術家開發自有生成式 AI 工具的測試需要 64 GB VRAM,即使速度較慢,至少能在蘋果晶片上運行。即使是最高端的 Ada RTX 6000,最高也僅有 48 GB,因此 80 GB 的 A100 或 H100 是 NVIDIA 唯一的選擇,但這些並非我們常見的桌上型等級卡」 @JulesUrbach 28.07.23 $RENDER