Por mucho que se discuta el rendimiento de una CPU, una GPU o cualquier otro chip dentro de un sistema de IA a escala de rack, la restricción final es otra: cuánta energía se puede llevar hasta el edificio y meter en cada uno de los racks que los contienen. La gestión y la asignación de esa energía se está convirtiendo en la principal preocupación para sacarle productividad a una instalación.
Durante su presentación de la GPU Rubin en la conferencia Hot Chips, Nvidia insistió en ese techo duro de la capacidad del centro de datos y mostró cuánto cómputo pueden entregar los sistemas Vera Rubin NVL72 dentro de un presupuesto de instalación fijo de 100 MW.
¿Cuánto cómputo cabe en 100 megavatios?
Según Nvidia, usar todas las tecnologías de gestión de energía de Vera Rubin junto con su conjunto DSX MaxLPS (siglas en inglés de terreno, energía y envolvente) permitiría a un operador desplegar 40.000 chips de próxima generación, unos 40 SuperPOD Rubin DGX, dentro de ese presupuesto de 100 MW. Nvidia espera que ese hardware entregue hasta 2 zettaFLOPS en inferencia NVFP4 y hasta 1,4 zettaFLOPS en entrenamiento NVFP4.
Haciendo el cálculo grueso con las especificaciones públicas de Rubin, en Tom's Hardware asumen que esas cifras de rendimiento son estimadas y no medidas. El máximo de FLOPS alcanzable con cargas de trabajo reales probablemente sea bastante menor, por varias razones.
Pero el punto de fondo se mantiene: exprimir el cómputo de un presupuesto energético escaso va a exigir una planificación, un monitoreo y una gestión de instalaciones bastante más finos que aplicar la medida gruesa del consumo máximo estimado de cada componente eléctrico del edificio.
El problema de reservar siempre para el peor caso
De acuerdo con una entrada de blog complementaria que compartió Nvidia, cuando los operadores dimensionaban sus instalaciones en el pasado, muchas de las suposiciones sobre uso de energía se enfocaban en los picos fijos por rack. Eso llevaba a presupuestos inflados que terminaban dejando energía varada en racks que rara vez, o nunca, la usan por completo.
Un ejemplo: si dentro de un mismo clúster hay una diferencia de carga entre racks, de modo que un sistema se beneficiaría en ese momento de recibir más energía, con un esquema estático simplemente no se puede redirigir. El rack menos utilizado consume menos de lo que tiene asignado y el más cargado igual choca contra los límites de una banda de guarda demasiado conservadora.
El enfoque DSX MaxLPS busca superar esa limitación con un esquema inteligente y dinámico que está permanentemente al tanto del consumo a nivel de chip, de rack y de grupos de racks. Cuando hay energía sin usar por las características de la carga o por capacidad ociosa, el lazo de control de software de Nvidia la encuentra y la redistribuye hacia los sistemas que más la necesitan en ese instante.
Cuatro racks pasan a ser cinco
En el ejemplo medido por Nvidia con racks GB300 actuales, dentro de un presupuesto de 540 kW y con asignación estática, un operador podría instalar cuatro sistemas de 135 kW, dimensionando para los picos en vez de para los valores medidos en carga real. En la práctica, hasta 170 kW de ese presupuesto pueden quedar sin usar por las diferencias de utilización entre racks.
Para sistemas modernos a escala de rack como los NVL72, eso es un rack entero y algo más que podría instalarse con seguridad dentro del mismo presupuesto. Y eso es exactamente lo que muestra el ejemplo de la compañía: cinco sistemas en lugar de cuatro, un 25% más de equipos sin sumar un solo vatio a la acometida. Repartidos entre esos cinco sistemas, además, la reserva de energía asignada para picos puede ser mucho menor.
A nivel de rack, DSX MaxLPS agrega flexibilidad con perfiles de energía específicos por carga de trabajo. Igual que los modos silencioso, equilibrado y de alto rendimiento que conocen los usuarios de PC, Nvidia armó perfiles de rack asignables a sistemas que ejecutan inferencia, entrenamiento y tareas más generales limitadas por memoria o por cómputo.
De 1.400 a 1.000 vatios por GPU, sin perder rendimiento
Nvidia no compartió resultados medidos de energía ni de rendimiento por vatio en Rubin, pero sí caracterizó los beneficios de MaxLPS en sistemas de la generación anterior corriendo inferencia, para demostrar el concepto.
Para un sistema Grace Blackwell GB300 ejecutando DeepSeek-R1, según Nvidia el viejo régimen de pico fijo habría asumido una potencia de GPU de 1.400 W y una potencia estimada de rack de 136 kW. Al aplicar MaxLPS, en cambio, la potencia típica de la GPU bajo esa carga cae a 1.000 W y la potencia total del rack a 101 kW, todo sin afectar el rendimiento entregado.
Son 28,6% menos de consumo por GPU y 25,7% menos por rack sobre la misma carga de trabajo. Ese margen menos conservador se traduce directo en más rendimiento por vatio, más racks instalables en la misma instalación y, en definitiva, más tokens capaces de generar ingresos para el operador o sus arrendatarios.
Nvidia agrega que diseñar un centro de datos con MaxLPS desde el principio le da al operador más flexibilidad a lo largo de la vida útil. Si un sitio parte enfocado en entrenamiento con hardware de punta, cada sistema instalado va a necesitar una porción mayor de la energía disponible. Más adelante, cuando el entrenamiento migre a nuevas generaciones y los equipos antiguos pasen a roles de inferencia, la demanda de cada GPU y de cada rack va a caer, y una instalación con asignación dinámica podrá liberar esa capacidad para montar más hardware en el mismo edificio.
¿Por qué importa la temperatura del refrigerante?
Otro componente mayor de MaxLPS en centros de datos con hardware Vera Rubin es el uso de temperaturas más altas de refrigerante líquido. Los racks Rubin NVL72, exclusivamente refrigerados por líquido, están diseñados para trabajar con una temperatura de entrada de 45 °C, muy por encima de los sistemas líquidos anteriores.
Esa temperatura más alta importa porque los enfriadores mecánicos que disipan el calor residual en sistemas no evaporativos también consumen una porción grande del presupuesto energético del sitio, hasta un 40% en instalaciones pasadas, según Nvidia. Igual que con la asignación estática de los servidores, esos enfriadores se han dimensionado tradicionalmente para el peor escenario posible, aunque operen bastante por debajo de esa capacidad durante buena parte del año.
Ese es un dato con lectura directa para climas cálidos: si el equipo tolera 45 °C de entrada, hay muchas más horas del año en que basta con enfriamiento seco y el compresor no necesita encenderse. Los enfriadores tal vez sigan siendo necesarios en las partes más calurosas del año, pero fuera de esas condiciones la temperatura más alta permite destinar más energía a trabajo productivo y mejora la eficacia en el uso de la energía del sitio.
La energía para centros de datos de IA, venga de la red pública o de generación propia detrás del medidor, seguirá siendo una de las restricciones más críticas de estas instalaciones en el futuro previsible, y esa preocupación apareció en varias presentaciones durante Hot Chips.
