IT Home, 11 November, AMD mengumumkan pada tanggal 9 bulan ini waktu setempat bahwa mereka bekerja sama dengan Spectro Cloud untuk meluncurkan platform pemrograman berbantuan AI tingkat perusahaan, Instinct Coder 355. Sistem ini mendukung penyebaran inferensi GLM-5.3 dan dapat mencapai 98% kinerja model terdepan secara lokal.

Inti dari Instinct Coder 355 adalah 8 unit akselerator GPU AMD Instinct MI355X, dilengkapi 2 prosesor EPYC 9575F "Zen 5" berinti 64, serta 3 TB DDR5-6400 RDIMM dan penyimpanan SSD sejumlah total 63,36 TB. Versi Dell dan versi Supermicro memiliki perbedaan dalam spesifikasi lainnya.

Setiap node sistem ini dapat memenuhi kebutuhan hingga 85 pengembang (50 secara bersamaan). Spectro Cloud menyediakan perangkat lunak manajemen PaletteAI Inference Launchpad yang mendukung sistem Instinct Coder 355, yang secara default memanfaatkan daya komputasi lokal daripada API cloud.


