NVIDIA plantea una nueva categoria de procesador: los CPU de maximo rendimiento de un solo hilo a escala, pensados para la era de la IA agentica. La idea es que, a lo largo de la creacion y el despliegue de un sistema de agentes, el CPU esta en el camino critico del razonamiento, el tiempo de respuesta y el aprendizaje.
El CPU es el procesador que ejecuta lo que el modelo ordena: llamadas a herramientas, ejecucion de codigo, procesamiento de datos, manejo de cache KV y analisis de resultados. En una fabrica de IA, la utilizacion de la GPU es el recurso mas valioso del centro de datos, asi que cualquier espera por una tarea del CPU limita los ingresos o, peor, deja a la GPU ociosa esperando.
¿Por que el CPU de un solo hilo importa para los agentes?
Segun NVIDIA, los CPU de centro de datos actuales no fueron disenados para la velocidad a escala. La nube empujo a los fabricantes a subir la cantidad de nucleos y bajar costos, sacrificando el rendimiento por nucleo. El paso a arquitecturas de chiplets abarato aun mas, pero creo un "impuesto de chiplet" donde los nucleos ya no acceden al rendimiento completo de memoria del chip.
El problema es que un agente no se detiene tras una sola peticion, sino que actua en un bucle. El modelo razona el siguiente paso, el CPU ejecuta el trabajo alrededor del modelo, el resultado vuelve y el modelo decide que hacer despues. Como cada accion depende del resultado anterior, agregar mas nucleos no acorta el tiempo de cada paso. La velocidad por nucleo determina que tan rapido avanza el bucle.
¿Que cifras ofrece NVIDIA Vera?
En el centro de Vera esta Olympus, el nucleo propio de NVIDIA, que segun la compania entrega 50% mas instrucciones por ciclo que el nucleo Grace. Esto pesa porque muchos pasos de un agente son secuenciales: una llamada a herramienta, una ejecucion de codigo o un procesamiento de datos debe terminar antes de que el modelo use el resultado.
Vera combina esos nucleos con hasta 1,2 TB/s de ancho de banda de memoria LPDDR5X con menos de 40 vatios de consumo de memoria, ademas de un die de computo monolitico con 3,4 TB/s de ancho de banda entre nucleos, lo que la empresa describe como tres veces mas que cualquier otro CPU de centro de datos. Con eso, sus 88 nucleos acceden al rendimiento completo de memoria sin cuellos de botella.
En cargas que representan ejecucion agentica, NVIDIA afirma que Vera entrega 1,8 veces el rendimiento sostenido por nucleo del x86. Perplexity la probo en su trabajo diario: clonando un repositorio y corriendo su suite de pruebas en sandboxes, Vera completo la tarea cerca de 1,5 veces mas rapido que x86 e inicio sandboxes concurrentes hasta 1,9 veces mas rapido. La empresa evalua desplegarla en su proximo sistema de produccion.
En cargas de datos, socios midieron analitica SQL a gran escala 3 veces mas rapida con Starburst y hasta 6 veces menos latencia en streaming en tiempo real con Redpanda, ambos contra CPU x86 de servidor de referencia.
Un solo CPU y un roadmap
NVIDIA sostiene que un mismo Vera cubre todo el rango de trabajo agentico, desde correr herramientas y sandboxes hasta procesar datos y entrenar el siguiente modelo con aprendizaje por refuerzo. Ademas, es el mismo CPU que hospeda a las GPU en NVIDIA Vera Rubin y que impulsa el procesador de almacenamiento BlueField-4, de modo que toda la fabrica de IA corre sobre una arquitectura y una cadena de herramientas.
La compania ya adelanta el siguiente paso: el CPU Rosa con el nucleo Rigel, un diseno Arm v9.2 que promete mayor rendimiento por nucleo que Olympus manteniendo la misma huella de silicio, con mejor entrega de instrucciones, mayor cache L2 y un manejo de memoria mas eficiente.
