AMD lanza la plataforma local de codificación de IA Instinct Coder 355 con un 98% de rendimiento del modelo frontera

AMD lanza la plataforma de programación local Instinct Coder 355; ocho MI355X admiten rendimiento local que se acerca al 98% de la inferencia de modelos de vanguardia, sin conexión a internet por defecto y datos mantenidos localmente.

Autor y fuente del artículo: AIBase

Traer los modelos grandes de la nube de vuelta a la sala de servidores: AMD está apuntando ahora al mercado de desarrolladores empresariales. El 9 de noviembre, hora local, AMD se asoció con Spectro Cloud para lanzar la plataforma empresarial de programación asistida por IA Instinct Coder 355, que puede ejecutar inferencias de GLM-5.3 localmente y, según se afirma, alcanza hasta el 98% del rendimiento de los modelos de vanguardia.

Lo que hace robusto este sistema es su configuración de alto rendimiento: cuenta con ocho aceleradores AMD Instinct MI355X, dos procesadores EPYC 9575F "Zen 5" de 64 núcleos, 3 TB de memoria DDR5-6400 y un almacenamiento SSD total de 63,36 TB. Dell y Supermicro ofrecen versiones completas con diferentes especificaciones, permitiendo a las empresas elegir según sus prácticas de centro de datos. Un solo nodo puede atender hasta 85 desarrolladores, con 50 de ellos codificando simultáneamente, lo que equivale a encapsular las necesidades de computación de un pequeño equipo en una sola caja.

Lo que realmente atrae a las empresas es la configuración de "no salir de casa". Spectro Cloud equipa este sistema con el software de gestión PaletteAI Inference Launchpad, que por defecto utiliza la capacidad de cómputo local en lugar de API en la nube, evitando que el código y los datos sensibles salgan fuera. Bajo la presión combinada de costos y cumplimiento normativo, trasladar la inferencia de vuelta a los propios centros de datos se está convirtiendo en una nueva apuesta de las grandes empresas: este movimiento de AMD claramente busca obtener una parte del pastel de NVIDIA y los proveedores de nube.