AMD 推出本地編程平台 Instinct Coder 355,8 張 MI355X 支援本地運行性能逼近前沿模型 98% 的推理,預設不聯網、資料留在本地。文章作者、來源:AIBase
將大模型從雲端拉回機房,AMD 這次做的正是企業開發者的生意。當地時間 11 月 9 日,AMD 與 Spectro Cloud 聯手推出企業級 AI 輔助編程平台 Instinct Coder 355,它能在本地運行 GLM-5.3 推理,且據稱可逼近前沿模型 98% 的性能。
八張卡支撐一台程式設計伺服器
該系統的硬核之處在於堆料:核心為 8 張 AMD Instinct MI355X 加速器,搭配 2 顆 64 核的 EPYC 9575F "Zen 5" 處理器,再配備 3TB DDR5-6400 記憶體與合計 63.36TB 的固態儲存。戴爾與 Supermicro 提供了不同規格的整機版本,企業可依機房習慣選擇方案。單節點最多可服務 85 名開發者,其中 50 人可同時在線編碼,相當於將一個小團隊的算力需求都收納進一台機箱。
預設不連雲,資料保留於本地
真正讓企業心動的是「不出門」的設定。Spectro Cloud 為這套系統配備了 PaletteAI Inference Launchpad 管理軟體,預設調用本地算力而非雲端 API,敏感代碼與資料無需外送。在成本與合規的雙重壓力下,將推理遷回自有机房,正成為大廠押注的新方向——AMD 這步棋,顯然想從英偉達與各家雲廠商碗裡分一杯羹。


