A medida que los centros de datos de IA continúan ampliándose, la discusión sobre la ventaja competitiva de NVIDIA también está cambiando. TechCrunch, medio extranjero, comentó que anteriormente los inversores se centraban más en si los chips desarrollados por los proveedores de nube debilitarían a las GPU, pero tras el último informe financiero, el mercado ha comenzado a centrar su atención en otra pregunta: ¿quién podrá hacer funcionar eficientemente todo el sistema de IA?
El foco de la competencia se desplaza hacia el sistema
El artículo sostiene que la implementación de la potencia de IA se dirige hacia mayores niveles de potencia y clústeres más grandes, y que observar solo las GPU ya no es suficiente para explicar el panorama competitivo. Cuanto más grandes son los centros de datos, más compleja se vuelve la colaboración entre datos, almacenamiento, red y cómputo. Las GPU siguen siendo componentes clave, pero cada vez más, la eficiencia real la determinan las capacidades del sistema fuera de las GPU.
Esto también es el núcleo del cambio actual en la narrativa de NVIDIA. A pesar de que grandes proveedores de nube como Amazon y Google continúan avanzando en el desarrollo de sus propios chips, NVIDIA sigue construyendo un conjunto de infraestructura más completo alrededor de las GPU. El artículo lo resume así: si la GPU es el motor, entonces el resto del sistema es el automóvil completo.
Vera Rubin cubre más etapas
TechCrunch menciona que NVIDIA está avanzando con la arquitectura Vera Rubin. Esta arquitectura no solo incluye la GPU Rubin, sino también la CPU Vera, junto con sistemas de rack diseñados para almacenamiento, red y otros componentes. El artículo considera que el significado de estos productos radica en que no generan directamente tokens, sino que minimizan las pérdidas de rendimiento fuera de la GPU.
En este contexto, Vera CPU se describe como un componente clave en la programación de datos. Jason Hardy, vicepresidente de tecnología de almacenamiento de NVIDIA, indicó que la memoria que puede contener un solo servidor o una sola plataforma de cómputo es limitada, por lo que llevar los datos a la GPU en el momento adecuado se ha convertido en un factor clave para la eficiencia del sistema.
Los datos se convierten en un nuevo campo de batalla
El artículo cita a Hardy, quien afirmó que en ciertas operaciones relacionadas, el acelerador de Vera CPU puede lograr un aumento de aproximadamente 3 veces. Esto significa que los recursos de hardware, como la memoria flash, pueden utilizarse de manera más eficiente, y las limitaciones del sistema tienen la oportunidad de reducirse.
El artículo también señala que problemas similares no solo existen dentro del ecosistema de NVIDIA. Cuando OpenAI presentó anteriormente el chip Jalapeño, también enumeró la reducción del movimiento de datos y la latencia de comunicación como objetivos clave. Su enfoque consiste en mantener la carga de trabajo completa dentro de un sistema interconectado para reducir las pérdidas causadas por la transferencia entre módulos.
Para TechCrunch, esto indica que la competencia en la infraestructura de IA está entrando en una nueva fase. Las empresas ya no solo compiten por la potencia de procesamiento, sino también por cómo fluyen los datos, cómo se coordinan los almacenamientos y cómo se evita la congestión de la red. En otras palabras, el nivel de competencia está pasando de “quién tiene GPUs más potentes” a “quién puede hacer que todo el sistema funcione con mayor eficiencia”.
El artículo sostiene que este cambio no significa que NVIDIA haya asegurado la victoria. Aún enfrenta la competencia de otros fabricantes de chips y grandes proveedores de nube. Pero en esta etapa, NVIDIA sigue liderando en integración y capacidad de programación del sistema, lo que explica la reevaluación del mercado de su ventaja en IA.