IT之家 11 tháng 11 tin tức, AMD vào ngày 9 tháng này theo giờ địa phương đã công bố hợp tác cùng Spectro Cloud ra mắt nền tảng lập trình hỗ trợ AI doanh nghiệp Instinct Coder 355. Hệ thống này hỗ trợ triển khai suy luận GLM-5.3, có thể đạt 98% hiệu năng của các mô hình tiên tiến tại chỗ.

Lõi của Instinct Coder 355 bao gồm 8 bộ tăng tốc GPU AMD Instinct MI355X, đi kèm 2 CPU EPYC 9575F “Zen 5” 64 nhân, cùng với 3TB DDR5-6400 RDIMM và tổng dung lượng lưu trữ SSD là 63,36TB. Phiên bản Dell và phiên bản Supermicro có sự khác biệt về các thông số kỹ thuật khác.

Mỗi nút của hệ thống có thể đáp ứng nhu cầu của tối đa 85 nhà phát triển (đồng thời 50 người). Spectro Cloud cung cấp phần mềm quản lý PaletteAI Inference Launchpad đi kèm cho hệ thống Instinct Coder 355, mặc định sử dụng sức mạnh tính toán cục bộ thay vì API đám mây.


