Arm dice que su AGI CPU rinde el doble por rack que el AMD EPYC 9755

Arm anunció la semana pasada que su AGI CPU, el procesador de centro de datos que diseñó para cargas de IA agéntica, rinde el doble por rack que el AMD EPYC 9755, informó Tom's Hardware. La cifra se calculó a partir del rendimiento de cada chip y de supuestos de consumo de los servidores, medidos en siete cargas de trabajo.

El resultado viene de racks modelados, con pruebas alineadas a una nueva metodología de evaluación de CPU que Arm desarrolló con apoyo de Fujitsu, Meta y OpenAI. Lo verificó Signal65 en un análisis independiente encargado por la propia Arm.

Esos resultados no convierten a la AGI CPU en líder general de la IA agéntica. Valen para los procesadores, las cargas y la configuración elegidos, y usan una metodología de Arm que la empresa propone como nuevo estándar. AMD e Intel publican sus propias cifras con otros benchmarks.

¿Qué propone medir Arm?

La IA agéntica cambia el papel de la CPU en los centros de datos, porque tiene que manejar flujos complejos de varios pasos. La inferencia la hace el acelerador, pero los agentes también ejecutan herramientas, consultan datos y mantienen estado dentro de entornos aislados, como si fueran usuarios virtuales. La CPU se encarga de ese trabajo alrededor, desde correr las herramientas y atender consultas a bases de datos o API hasta preparar datos y coordinar a los aceleradores.

A medida que estas cargas crecen, ya no basta con contar cuántos agentes corren a la vez. También importa cuánto trabajo útil sale. Arm sostiene que el rendimiento de una CPU se define cada vez más por cuánto trabajo útil sostiene un sistema sin dejar de responder. Sumar agentes simultáneos sirve de poco si su ejecución se frena o si los aceleradores quedan esperando a la CPU. La potencia eléctrica, la refrigeración y el espacio físico también limitan cuánto hardware se puede instalar, así que la pregunta del rendimiento termina en el rack.

La metodología de Arm se apoya en tres cosas. Cargas de agentes representativas, mediciones de CPU repetibles y validación contra el resultado final de la tarea. En la práctica, identifica las herramientas y servicios que usa un agente, mide su rendimiento de CPU en condiciones controladas y comprueba si las mejoras ayudan al agente a terminar su tarea. Por ejemplo, una prueba de base de datos establece qué tan rápido un sistema procesa transacciones, y una evaluación de punta a punta revisa si ese acceso más rápido mejora el flujo que depende de él.

Hacer repetibles esas comparaciones es otro desafío, porque un agente puede elegir comandos distintos o tomar otro camino cada vez que corre. La inferencia del modelo y los servicios remotos también suman demoras. Arm propone reproducir acciones de agentes ya grabadas para aislar el rendimiento de la CPU de esa variabilidad, de modo que cada sistema ejecute la misma secuencia de trabajo. Su documento técnico plantea un marco para elegir e interpretar estas mediciones y deja a la industria la tarea de acordar un conjunto de benchmarks y una forma de puntuar.

Las siete cargas de la prueba

Arm corrió siete cargas en la AGI CPU y en el EPYC 9755 de AMD, repartidas entre herramientas, flujos agénticos y razonamiento o planificación, más Sandbench, que mide el costo de crear entornos aislados para ejecutar agentes. Las pruebas combinan aplicaciones de servidor conocidas con benchmarks enfocados en flujos de agentes.

El resultado de vLLM mide el trabajo de CPU alrededor de la ejecución del modelo, no el rendimiento de inferencia en GPU. Del mismo modo, la categoría de "razonamiento/planificación" agrupa cargas de CPU de apoyo y no evalúa qué tan bien razona un modelo.

¿Cómo se armó la comparación?

Por disponibilidad de hardware, Arm usó dos configuraciones de la AGI CPU. Un chip de 128 núcleos a 2,8 GHz con DDR5-7200 para Terminal-Bench 2 y SWE-bench replay, y uno de 136 núcleos a 3,2 GHz con DDR5-8000 para las otras cinco cargas. Del lado de AMD se usó un socket del EPYC 9755 de 128 núcleos con DDR5-6400.

Las dos plataformas corrieron los mismos scripts, pero con entornos de software distintos. Arm usó compilaciones propias de Linux 7.1.3, con Ubuntu 24.04 en la mayoría de las pruebas y Ubuntu 26.04 en SWE-bench. La configuración principal registrada de AMD usó Ubuntu 24.04 y Linux 6.8, con ajustes que variaban según la prueba.

Chip contra chip, la AGI CPU ganó cinco de las siete comparaciones. Tomando el EPYC 9755 como base, Arm quedó 9% arriba en Terminal-Bench, 13% en SWE-bench y 97% en fastText, pero 12% abajo en MySQL y 5% abajo en Milvus. El promedio aritmético de las siete razones normalizadas da una ventaja de 1,20 veces por chip.

De dónde sale el doble por rack

A nivel de rack, el rendimiento modelado de Arm promedia 1,99 veces el de AMD y gana en las siete cargas. El modelo usa estimaciones de consumo nominal por servidor de 950 W para la configuración Arm de 128 núcleos, 1.050 W para la de 136 núcleos y 1.700 W para AMD, contando memoria y otros componentes. Tras reservar cerca de 8% de un presupuesto de 24 kW por rack para red y distribución eléctrica, caben 23 o 21 servidores Arm contra 13 de AMD.

En SWE-bench, el 2,00x por rack se obtuvo multiplicando el resultado de cerca de 1,13x por chip por 23/13. La ganancia mayor viene de meter más servidores en el mismo presupuesto de energía. Además, estas proyecciones usan el consumo modelado del servidor completo, no mediciones de rendimiento de dos racks llenos.

El modelo de Arm también le asigna a los servidores AMD cerca del doble de RAM, unos 2 TB contra 1 TB para Arm. Reparte 4 GB por hilo de hardware, y cada núcleo de AMD maneja dos hilos mientras cada núcleo de Arm maneja uno. Eso deja la asignación de potencia para memoria en 336 W para AMD y 192 W para Arm. Signal65 calculó también qué pasa si la memoria se asigna por núcleo físico. En ese caso baja la memoria y el consumo asignados a AMD, y la ventaja promedio modelada de Arm por rack cae de 1,99x a cerca de 1,81x. Que la configuración AMD de 2 TB tenga sentido depende de cuánta memoria necesiten de verdad las cargas, porque el SMT no exige por sí mismo el doble de memoria.

¿Qué verificó Signal65?

Signal65 observó a distancia las pruebas de Arm y revisó los registros originales, los archivos de resultados, los scripts y los registros de configuración. Un equipo de revisión separado rehízo los cálculos con su propio código y reprodujo los siete resultados con un margen de 0,5%.

Signal65 no repitió las pruebas en hardware de su propio laboratorio. Además, solo pudo confirmar de forma independiente la configuración de BIOS y memoria del sistema EPYC 9965. Esos ajustes no estuvieron disponibles para verificación en los sistemas Arm y EPYC 9755. Junto con las diferencias de software, esos vacíos restan algo de certeza a la hora de atribuir los resultados a los procesadores.

Arm frente a AMD y Nvidia

Arm cree que su metodología debería ser el estándar, pero no es la única forma en que la industria evalúa CPU para agentes. AMD, por ejemplo, promueve agentes por watt, por dólar y por rack. Las notas al pie de su página del EPYC 9006 usan los hilos de CPU disponibles como indicador de capacidad para agentes, con un rendimiento real que depende de la carga y del sistema. En otro análisis, AMD modela un rack de 100 kW y afirma que el EPYC 9965 rinde 2,37 veces lo que Vera de Nvidia, con una media geométrica sobre seis cargas de infraestructura.

Nvidia, por su parte, destaca el rendimiento de un solo hilo y el ancho de banda de memoria de Vera, y afirma que un rack de 256 CPU soporta más de 22.500 entornos de CPU simultáneos. Esas cifras describen cosas distintas y no implican una ventaja concreta de nadie. Las metodologías varían entre fabricantes en cargas, supuestos de consumo y forma de agregar resultados, y eso complica comparar CPU de forma directa.

La comparación de Arm es contra el procesador "Turin" de quinta generación de AMD, de 128 núcleos. AMD lanzó este año su familia EPYC 9006 "Venice" de sexta generación, dedicada a la IA agéntica.