Los próximos procesadores Verano de AMD no se parecen a ningún Epyc anterior. En vez de cargas de propósito general, están diseñados para un solo trabajo, mover la próxima generación de servidores con GPU de la compañía, informó The Register el 10 de noviembre.
En una entrevista con ese medio durante un evento de prensa en Las Vegas, la semana pasada, Madhu Rangarajan, vicepresidente corporativo del negocio de cómputo y productos de IA empresarial de AMD, describió a Verano como el primer paso hacia algo más parecido a los superchips Vera Rubin de Nvidia.
"Verano está realmente diseñado para una solución integrada de CPU+GPU a escala de rack", dijo. "Desde esa perspectiva, no diría que la CPU es competidora de Vera. A grandes rasgos, diría que la solución Verano+GPU es competidora de Vera+Rubin".
Como referencia, Vera Rubin, igual que los GB200 y GB300 que lo precedieron, no es una plataforma de servidor típica. Se parece más a un enorme computador de placa única que integra CPU y GPU en un mismo paquete. Cada superchip de Nvidia une una CPU Vera de 88 núcleos y 1,5 TB de memoria LPDDR5X con un par de GPU Rubin mediante el enlace NVLink-C2C.
Rangarajan dijo que Verano será la CPU anfitriona de un producto de esa misma clase con GPU de AMD. Igual que en los superchips de Nvidia, usará memoria de notebook en lugar de módulos RDIMM convencionales.
A diferencia de Vera, que Nvidia también despliega como CPU independiente en servidores de almacenamiento y entornos aislados para agentes, Verano tiene un único propósito, que es mantener alimentadas a sus GPU. The Register supone que serán las MI500X.
La decisión responde a la filosofía de AMD de un modelo por carga de trabajo. Por eso los núcleos, los relojes, el ancho de banda de memoria, el consumo y la entrada y salida de Verano se rebalancearon para alimentar a las GPU y poco más.
¿Qué hay dentro de Verano?
Si se le quitara el disipador integrado, el chip se vería muy parecido a los Epyc Venice que The Register revisó en septiembre. Lleva seis de los chiplets de núcleos (CCD) de AMD, con dos configuraciones posibles según lo que prefiera la carga del cliente:
- 72 núcleos de alta frecuencia, con relojes de hasta 5,3 GHz.
- 192 núcleos optimizados para densidad, con relojes de hasta 4,1 GHz.
Ahí terminan las semejanzas visibles. Buena parte del chip se rehízo para eliminar los cuellos de botella en el flujo de datos entre la CPU y las GPU que debe alimentar. Tiene un par de dados de entrada y salida totalmente nuevos, a los que se conectan cuatro controladores de memoria LPDDR5X.
Esos controladores se están validando hoy para 24 canales de memoria a un máximo de 8.533 MT/s. Según lo que le dijeron a The Register, la cifra podría subir un poco si AMD tiene margen cuando el chip empiece a despacharse el próximo año, pero por ahora es contra lo que valida.
O sea que la plataforma no solo tiene menos núcleos, también tiene memoria más lenta. El ancho de banda teórico máximo ronda los 800 GB/s, la mitad de lo que logran los Venice más altos de AMD y cerca del 66% de lo que entrega Vera de Nvidia.
¿Qué gana AMD con LPDDR?
Según The Register, la memoria LPDDR le da a AMD una reducción de consumo de 30% a 40% frente a los RDIMM, además de un espacio más compacto para la refrigeración líquida. También trae desventajas. En su primera versión, Verano no irá en zócalo. Usará un encapsulado BGA soldado a la placa, lo que hará más difícil darle mantenimiento.
"LPDDR tiende a ser bastante delicada en cuanto a velocidades. Cada vez que pasas por un conector, tiendes a perder un pin o dos, y ya tienes un conector con el propio SoCam. Así que para minimizar cualquiera de esas pérdidas de velocidad, optamos por BGA en la CPU", dijo Rangarajan.
A diferencia de muchos notebooks, la memoria no irá soldada. Usará los mismos módulos SOCAMM2 de los superchips Vera-Rubin y Vera-Vera de Nvidia.
Aun así, Verano se ve como un retroceso frente a Venice en todo, salvo en la conexión entre CPU y GPU.
Enlaces más anchos entre CPU y GPU
Históricamente, AMD resolvió la comunicación entre CPU y GPU por PCIe. Funciona, pero por lo general exigía switches PCIe para atender a todas las GPU, tarjetas de red y almacenamiento del equipo. El superchip de Nvidia prescindió de eso y reemplazó PCIe por NVLink-C2C, que entrega 900 GB/s de ancho de banda bidireccional a cada GPU del sistema.
Venice y Verano hacen algo parecido. A diferencia de los aceleradores Instinct anteriores, la última generación de GPU de AMD no depende de PCIe para hablar con la CPU. Desde Venice, AMD pasó a usar xGMI.
GMI (global memory interconnect) es la vía con que AMD mueve datos entre los chiplets de sus CPU, GPU y APU desde hace varias generaciones. xGMI la extiende a la comunicación de GPU a GPU y de CPU a GPU.
En Venice, cada carril de xGMI llega a 64 Gbps, la misma velocidad de PCIe 6.0. Verano va más allá. Como separó los controladores de memoria, AMD parece haber recuperado ese espacio para poner serializadores y deserializadores (SerDes) más anchos. En lugar de 64 Gbps por carril, los enlaces xGMI de Verano llegan a 112 Gbps, lo que en la práctica le da un ancho de banda cercano a PCIe 7.0 años antes de que esa norma llegue a CPU en producción.
Rangarajan explicó que esto responde a lo que necesitan las GPU de AMD para funcionar de forma óptima.
AMD no reveló la proporción de CPU y GPU que busca con Verano, así que cuesta compararlo con Nvidia. Según los cálculos de The Register, con dos GPU por CPU, como en Vera Rubin, Verano entregaría el mismo ancho de banda entre chips. Con cuatro GPU por CPU, como en los racks Helios de AMD, quedaría en cerca de la mitad, unos 448 GB/s. Tampoco está claro si AMD aumentó la cantidad de enlaces xGMI por dado de entrada y salida, así que el ancho de banda por GPU podría ser todavía mayor. The Register espera más información cerca del debut de las MI500X, el próximo año.
Una pieza dentro de un ecosistema más grande
AMD no espera que Verano reemplace a Venice en todos los racks de IA, porque el chip está pensado solo para trabajar con aceleradores Instinct. Además, AMD no va a esperar a Verano para lanzar sus sistemas Helios a escala de rack. Como se informó durante Advancing AI a principios de este año, esos sistemas llevarán 18 CPU Venice de 96 núcleos junto a 72 GPU Instinct MI455X.
Hacia adelante, AMD espera que Venice siga siendo un procesador anfitrión popular para los nodos principales de IA, no solo con sus propias GPU sino también con la cantidad creciente de aceleradores propios que fabrican las grandes empresas de modelos.
