A AMD lança a plataforma de programação local Instinct Coder 355, com 8 unidades MI355X suportando desempenho de execução local que se aproxima de 98% do desempenho de modelos de ponta, sem conexão à internet por padrão e dados mantidos localmente.Autor e fonte do artigo: AIBase
Traga os grandes modelos de volta do data center para a sua sala de servidores: desta vez, a AMD está atendendo desenvolvedores corporativos. Em 9 de novembro, no horário local, a AMD lançou em parceria com a Spectro Cloud a plataforma corporativa de programação assistida por IA Instinct Coder 355, que pode executar inferência do GLM-5.3 localmente e, segundo a empresa, atinge até 98% do desempenho dos modelos de ponta.
Oito cartões sustentam um servidor de programação
A robustez deste sistema reside em sua configuração: o núcleo consiste em 8 aceleradores AMD Instinct MI355X, acompanhados por dois processadores EPYC 9575F "Zen 5" de 64 núcleos, complementados por 3 TB de memória DDR5-6400 e 63,36 TB de armazenamento SSD em conjunto. Dell e Supermicro oferecem versões completas com diferentes especificações, permitindo que as empresas escolham a solução conforme seus padrões de data center. Um único nó pode atender até 85 desenvolvedores, dos quais 50 podem codificar simultaneamente, concentrando a necessidade de computação de uma pequena equipe em apenas um gabinete.
Padrão desconectado, dados armazenados localmente
O que realmente atrai as empresas é o recurso de "não precisar sair". A Spectro Cloud fornece o software de gerenciamento PaletteAI Inference Launchpad para este sistema, que por padrão utiliza a capacidade de processamento local em vez de APIs em nuvem, evitando que códigos e dados sensíveis sejam enviados externamente. Sob pressão conjunta de custos e conformidade, mover a inferência de volta para data centers próprios está se tornando uma nova aposta das grandes empresas — o movimento da AMD claramente visa dividir uma fatia do mercado da NVIDIA e das principais provedoras de nuvem.