Según el último informe de SemiAnalysis, el HBM de Rubin Ultra se ha reducido a 192 GB. En escenarios sensibles a la memoria, como inferencia agente, contextos largos y modelos MoE grandes, 192 GB será más limitado que 288 GB, lo que implica que su rendimiento efectivo en algunos escenarios se acercará e incluso será inferior al de la versión estándar de Vera Rubin. La versión mejorada de Rubin Ultra tiene un rendimiento inferior al de la versión estándar de Vera Rubin; el mismo modelo podría requerir más GPUs para su implementación, aumentando así los costos de comunicación entre tarjetas, división del modelo y transferencia de datos, reduciendo la utilización efectiva por GPU y elevando el costo de generación por token. En otras palabras, aunque la producción de GPUs ha aumentado, si cada tarea requiere más GPUs, el costo de capacidad de cómputo a nivel de sistema no necesariamente disminuirá proporcionalmente. Por lo tanto, la lógica detrás de la versión mejorada no tiene sentido. ¿Entonces, ¿no sería mejor descartar la versión Ultra y seguir vendiendo la versión Vera Rubin hasta finales del 2027, para lanzar directamente la próxima generación con la arquitectura Feynman en 2028? 🤔