Odaily星球日報によると、Marvell Technologyは、Agentic AIの推論プロセスにおける増大するメモリ容量と帯域幅のボトルネックを解決することを目的として、サーバーレベルのAIストレージ、ラックレベルのCXLメモリ拡張およびプーリング、複数ラック間の光インターコネクトによる共有メモリをカバーする次世代メモリソリューションポートフォリオを発表しました。
Marvellは、AIモデルの規模が拡大し、コンテキストウィンドウが長くなり、KVキャッシュの需要が増加するにつれて、従来の計算とメモリが密接に結合したアーキテクチャがAI推論の効率を制限していると述べています。メモリの分離（memory disaggregation）により、メモリリソースを計算リソースから独立して拡張でき、GPUの利用率を向上させ、データ移動の遅延を削減できます。今回発表された製品には以下が含まれます：
Bravera SC6 PCIe 6.0 SSDコントローラー：AI推論ストレージ向けに設計され、クラウドプロバイダーがより多くのKVキャッシュを高性能SSDに移行し、インフラの効率を向上させます。本製品は複数ベンダーのNANDと互換性のあるアーキテクチャを採用しており、2026年第四四半期にサンプル提供を開始する予定です。
Marvell Structera X メモリ拡張ソリューション：CXL技術を活用し、ラックレベルのメモリ拡張とリソースプール化を実現。データセンターがメモリリソースをより柔軟に共有・割り当てることができ、AIインフラのコストを削減します。
Marvell Photonic Fabric 光インターコネクトメモリソリューション：光インターコネクト技術を活用して、複数ラックにまたがる共有メモリアーキテクチャを構築し、最大32TBのホットKVキャッシュのオフロードを実現し、AI推論クラスターのスループットを向上させます。
Marvellは、Photonic Fabricソリューションにより、既存のデータセンターのスペースと電力制約の範囲内で、トークンスループットを最大2〜3倍向上させ、より大規模なモデルとより長いコンテキストを必要とするAIアプリケーションを可能にするとしています。
Marvellの経営陣であるWill Chuは、AIインフラが単一サーバーアーキテクチャから、計算、メモリ、接続が協調して動作するシステムへと移行していると述べ、今後はリソース利用率とトークン効率を向上させるために、メモリがより独立して拡張される必要があると指摘しました。
AIエージェントと大規模モデルの推論需要が継続的に増加する中、メモリ容量、帯域幅、データ転送効率が、計算能力に続くAIインフラの競争の新たな焦点となっている。