Hasta esta semana, el relato dominante sobre NVIDIA era más o menos así: durante los primeros años del auge de la inteligencia artificial, la empresa fue la única fuente de GPU de última generación, algo que resultó inmensamente rentable a medida que la industria escalaba. En los últimos años, los grandes proveedores de nube como Amazon y Google empezaron a fabricar sus propios chips, NVIDIA dejó de ser la única opción, y muchos inversionistas quedaron preguntándose qué tan duradera es realmente su ventaja.
Es un relato convincente y en buena medida cierto. Después de multiplicar por diez su capitalización bursátil entre comienzos de 2023 y mediados de 2025, las acciones de NVIDIA vienen con una trayectoria más modesta durante el último año, empujada por la preocupación sobre la competencia en GPU.
Desde los resultados trimestrales del miércoles tomó forma un relato nuevo, y los inversionistas empiezan a darse cuenta de que la ventaja de NVIDIA va bastante más allá de las GPU. A medida que el cómputo de la inteligencia artificial crece hasta la escala de gigavatios, la orquestación se ha vuelto una tarea cada vez más compleja. Sin mayor sorpresa, NVIDIA construyó buena parte del hardware de última generación necesario para manejarla, lo que le da una enorme ventaja en los sistemas que rodean a la GPU justo cuando enfrenta más competencia en las GPU mismas.
Pese a todo lo que se habla del cómputo como un bien transable, sigue siendo tremendamente difícil operar un centro de datos de megaescala con eficiencia máxima, y a medida que los despliegues se vuelven más grandes y más rápidos, ese desafío no deja de crecer.
¿Qué está vendiendo NVIDIA además de la GPU?
Parte de esto se ve solo con mirar el detalle de lo que la empresa vende hoy. Está desplegando su arquitectura Vera Rubin, que combina la GPU Rubin con un conjunto de otras unidades: la CPU Vera, el acelerador de inferencia Groq 3 LPX y racks equivalentes para almacenamiento y red.
Son sistemas extremadamente especializados, igual que la propia GPU Rubin, pero en lugar de procesar tokens se encargan de que todo lo que está fuera de la GPU funcione con la mayor eficiencia posible. Si la GPU es el motor, estos son el resto del auto.
La CPU Vera en particular está enfocada en el problema de orquestar los datos.
"Vera es importante porque hay un límite a la memoria que se puede poner en un solo servidor o en cualquier plataforma de cómputo", dijo a TechCrunch Jason Hardy, vicepresidente de tecnología de almacenamiento de NVIDIA.
A medida que los centros de datos escalaron su poder de cómputo, la capacidad de memoria escaló también, y por eso empresas como Micron se enriquecieron en la segunda ola del auge de infraestructura. Pero llevar esos datos a la GPU en el momento correcto no es trivial, y en la medida en que las empresas buscan bajar cada vez más los tokens por watt, se dan cuenta de lo importante que es esa dirección del tráfico.
"Vimos mejoras de más de tres veces en estas operaciones, donde la CPU Vera permite la aceleración", señaló Hardy. "Así podemos usar nuestro flash a pleno potencial, porque logramos sacarle todo el rendimiento sin generar un cuello de botella".
¿Hay otras maneras de resolver el mismo problema?
Sí, y se ven fuera de NVIDIA. Cuando OpenAI desarrolló su chip Jalapeño, un foco central fue evitar estos desafíos por completo minimizando la cantidad de datos que hay que mover.
"Diseñamos Jalapeño para minimizar el movimiento de datos y las demoras de comunicación", señaló la empresa en una publicación de su blog a comienzos de este mes. "Su dominio amplio permite que toda la carga de trabajo permanezca dentro de un solo sistema conectado, lo que minimiza el movimiento de datos y ayuda a que la solicitud completa se mantenga rápida y eficiente de principio a fin".
Es un enfoque distinto, que evita el movimiento de datos ejecutando la carga de trabajo dentro de un chip integrado. Pero la lógica de fondo es la misma: aumentar la eficiencia con un control de tráfico más inteligente en lugar de simplemente sumar ciclos de procesador. Eso, a su vez, abre toda una nueva capa de infraestructura donde las empresas van a competir.
| Enfoque | Estrategia | Ejemplo |
|---|---|---|
| Orquestación | Mover los datos mejor entre memoria, flash y acelerador | CPU Vera de NVIDIA |
| Integración | Evitar el movimiento manteniendo la carga en un solo dominio | Chip Jalapeño de OpenAI |
¿Es una victoria asegurada?
Este nuevo foco en la orquestación de datos no es automáticamente un triunfo para NVIDIA. La empresa va a tener que competir con otras fabricantes de chips y con los grandes proveedores de nube, tal como lo ha hecho con las GPU. Pero la competencia se movió a una capa nueva, donde construir una GPU rival importa menos que ser capaz de hacer funcionar el sistema completo con eficiencia. Al menos en estas primeras etapas, NVIDIA parece llevar una ventaja considerable.
Para la región, el ángulo relevante es de costos operativos más que de compra. El indicador que menciona el artículo, tokens por watt, es exactamente el que define si conviene inferir localmente o pagar una interfaz de programación en el extranjero. En un mercado como el chileno, donde la energía industrial es cara y la capacidad de centro de datos para inteligencia artificial es escasa, cada punto de eficiencia en la orquestación se traduce en la diferencia entre un proyecto de inferencia local viable y uno que no lo es.
