IT Home, 11 November, AMD mengumumkan pada 9 November tempatan bekerjasama dengan Spectro Cloud untuk melancarkan platform pemrograman berasaskan AI perniagaan, Instinct Coder 355. Sistem ini menyokong penghantaran inferensi GLM-5.3 dan mampu mencapai 98% prestasi model terkini secara tempatan.

Inti Instinct Coder 355 ialah 8 unit akselerator kad grafik AMD Instinct MI355X, disertai 2 unit CPU EPYC 9575F “Zen 5” 64 inti, selain itu termasuk 3TB DDR5-6400 RDIMM dan penyimpanan SSD sejumlah 63.36TB. Versi Dell dan versi Supermicro mempunyai perbezaan dalam spesifikasi lain.

Setiap nod sistem ini mampu memenuhi keperluan sehingga 85 pembangun (50 secara serentak). Spectro Cloud menyediakan perisian pengurusan PaletteAI Inference Launchpad yang sepadan untuk sistem Instinct Coder 355, yang secara lalai memanggil kuasa tempatan bukan API awan.


