La IA agéntica cambia el patrón de infraestructura de las fábricas de IA. Una sola petición puede disparar muchas llamadas a modelos, invocaciones de herramientas, búsquedas en memoria, chequeos de políticas, accesos a almacenamiento y transferencias de red antes de producir una respuesta final. A medida que más agentes corren a la vez y arrastran contexto entre pasos, la infraestructura debe mover, proteger, recuperar y reutilizar datos lo bastante rápido para mantener productivas a las GPU y CPU.
La respuesta de NVIDIA es la plataforma BlueField, que aporta procesamiento de infraestructura dedicado y programable dentro de la ruta de datos de la fábrica de IA. BlueField descarga el trabajo de infraestructura de las CPU anfitrionas, acelera el movimiento de datos, aplica políticas en línea y habilita la reutilización de contexto.
¿Por qué la infraestructura ahora es parte de la inferencia?
El punto clave es el KV cache, la memoria intermedia de atención que un modelo genera durante el prellenado. A medida que las conversaciones y los flujos de agentes crecen, ese estado debe persistir entre pasos de razonamiento y reutilizarse entre peticiones. Cuando la memoria de la GPU se satura, los sistemas descartan y recalculan el KV cache, limitan el contexto o mueven el estado a otra capa de memoria, con costos en latencia, rendimiento o precio.
Por eso NVIDIA sostiene que la infraestructura dejó de ser algo adyacente a la inferencia: ahora es parte del pipeline. Redes, almacenamiento, seguridad, telemetría y gestión de memoria de contexto deben procesar el tráfico de los agentes sin frenar la inferencia en la GPU ni consumir la CPU que los agentes necesitan para ejecutarse.
¿Qué trae el DPU BlueField-4?
El DPU BlueField-4 integra hasta 800 Gb/s de conectividad Ethernet o InfiniBand, una CPU NVIDIA Grace de 64 núcleos, memoria LPDDR5X de alto ancho de banda, PCIe Gen6 y aceleración en línea para redes, almacenamiento, seguridad y movimiento de datos, además de la plataforma de software DOCA.
Comparado con BlueField-3, la nueva generación:
- Duplica el ancho de banda de red.
- Entrega hasta 6 veces más cómputo.
- Ofrece 4 veces la capacidad de memoria.
- Supera en más de 3 veces el ancho de banda de memoria.
El procesador de almacenamiento Vera BlueField-4 STX combina la CPU Vera, la SuperNIC ConnectX-9, hasta 1,6 Tb/s de conectividad Spectrum-X Ethernet, acceso a almacenamiento NVMe de alto rendimiento, seguridad en el silicio y programabilidad vía DOCA.
¿Qué aporta el software DOCA?
DOCA vuelve programable el dominio de procesamiento de BlueField y ofrece servicios como DOCA HBN (enrutamiento de capa 3, con BlueField actuando como router BGP), BlueField ASTRA (despliegues bare-metal multiinquilino de confianza cero), DOCA Memos (gestión y reutilización del KV cache entre nodos de cómputo y almacenamiento) y servicios de seguridad de confianza cero.
Juntas, estas capacidades mantienen redes, almacenamiento, seguridad y gestión de contexto cerca de la ruta de datos, en lugar de competir por la CPU anfitriona. Según NVIDIA, el resultado es mayor utilización de la GPU, menor latencia de inferencia, mejor aislamiento entre inquilinos, menor costo por token y más tokens por watt. Todo esto se enmarca en la plataforma Vera Rubin y en la arquitectura DSX para fábricas de IA.
