NUMAミラーPRによるオープン推論では、5×3090でプリフィルが128.6 tok/s、デコードが18.2 tok/

The Upsider²2026/09/01 00:46:09

$79,954.700.44%

NUMAミラーPRによるオープン推論では、5×3090でプリフィルが128.6 tok/s、デコードが18.2 tok/sを記録。一方、ピンメモリのローカリティを失った場合は125.1/11.5。次なるAIコスト戦争はモデル重みではなく、メモリトポロジーで決まるかもしれない。同意する？

出典:原文を表示

免責事項: 本ページの情報はサードパーティからのものであり、必ずしもKuCoinの見解や意見を反映しているわけではありません。この内容は一般的な情報提供のみを目的として提供されており、いかなる種類の表明や保証もなく、金融または投資助言として解釈されるものでもありません。KuCoinは誤記や脱落、またはこの情報の使用に起因するいかなる結果に対しても責任を負いません。デジタル資産への投資にはリスクが伴います。商品のリスクとリスク許容度をご自身の財務状況に基づいて慎重に評価してください。詳しくは利用規約およびリスク開示を参照してください。