帖子
avatar

針對關於 LLM 較大上下文視窗的提問: 「是的,適用於具有合適記憶體佔用的 GPU。請注意,自 M1 Max 起,蘋果 GPU 已提供驚人的 64–192 GB VRAM,可用於訓練和推論工作負載。我們為藝術家開發自有生成式 AI 工具的測試需要 64 GB VRAM,即使速度較慢,至少能在蘋果晶片上運行。即使是最高端的 Ada RTX 6000,最高也僅有 48 GB,因此 80 GB 的 A100 或 H100 是 NVIDIA 唯一的選擇,但這些並非我們常見的桌上型等級卡」 @JulesUrbach 28.07.23 $RENDER

此內容僅供資訊及教育用途。內容可能包括第三方見解、贊助內容或推廣材料,而創作者可能因此獲得報酬。本資訊流中的任何內容均不構成投資建議或收益保證。您須自行對投資決策負全責。交易前,請務必自行研究並審慎行事。我們不保證第三方資訊的準確性,亦不會對因此產生的任何損失承擔責任。過往表現並不代表未來結果。詳情請參閱我們的 社群條款 及 風險披露聲明。

avatar發佈你的回覆

評論