AMDはローカルプログラミングプラットフォーム「Instinct Coder 355」を発表。8枚のMI355Xで、ローカル実行時の性能が最先端モデルの推論性能の98%に迫り、デフォルトでインターネットに接続せず、データはローカルに保存されます。文章作者、出典：AIBase
AMDは、大規模モデルをクラウドからデータセンターへ引き戻し、今回は企業開発者向けのビジネスを展開している。現地時間11月9日、AMDはSpectro Cloudと提携し、企業向けAI補助プログラミングプラットフォーム「Instinct Coder 355」を発表。このプラットフォームはローカルでGLM-5.3の推論を実行でき、最先端モデルの98%に迫る性能を発揮するとされている。
8枚のカードで1台のプログラミングサーバーを構成する
このシステムの強みは、徹底的な構成にあります：核心にはAMD Instinct MI355Xアクセラレーターを8枚、64コアのEPYC 9575F "Zen 5"プロセッサーを2基、DDR5-6400メモリーを3TB、合計63.36TBのSSDストレージを搭載。DellとSupermicroは異なる仕様の一体型システムを提供しており、企業はデータセンターの慣習に応じて選択できます。1ノードで最大85人の開発者をサポートでき、そのうち50人が同時にコードを記述可能。つまり、小さなチームの計算リソース要件を1台の筐体に収容できます。
デフォルトでクラウドに接続せず、データはローカルに保存されます
企業を本気で惹きつけるのは、「外出しない」という設定である。Spectro Cloud はこのシステムに PaletteAI Inference Launchpad 管理ソフトを搭載し、デフォルトでローカルの計算リソースを呼び出し、クラウド API は使用しない。機密コードやデータを外部に送信する必要がない。コストとコンプライアンスという二重の圧力の下、推論を自社データセンターに戻すことが、大手企業の新たな注目点となっている——AMD のこの一手は、明らかに NVIDIA や各クラウドベンダーの市場からシェアを奪おうとするものである。