La inteligencia artificial ha entrado en la era gigascale. Las fábricas de IA más avanzadas del mundo están uniendo cientos de miles de GPU y CPU para entrenar modelos de frontera, potenciar la IA agentica y generar inteligencia a una escala sin precedentes. A este nivel, la red se convierte en un multiplicador crítico de la potencia de cómputo para impulsar la generación de tokens.

Marcando un hito en redes, el NVIDIA Spectrum-6 —un sistema de switch Ethernet de 102.4 terabits por segundo que ofrece el doble de capacidad que los sistemas de generación anterior y construido como parte de la plataforma NVIDIA Vera Rubin— está llegando a las fábricas de IA gigascale de todo el mundo.

Spectrum-6 ancla la próxima generación de la plataforma NVIDIA Spectrum-X Ethernet, entregando el ancho de banda, la escala y la inteligencia necesarios para operar una fábrica de IA como un sistema de cómputo integral de extremo a extremo.

¿Quiénes lideran la adopción de esta tecnología?

Los principales constructores de infraestructura de IA del mundo —incluyendo CoreWeave, Microsoft, Nebius, SpaceX AI y Tesla— estarán entre los primeros en integrar Spectrum-6 para acelerar sus fábricas de IA.

Para los proveedores de nube, Spectrum-6 significa que más capacidad de cómputo puede operar como un recurso unificado de alto rendimiento, ayudando a los clientes a entrenar modelos y desplegar servicios de inferencia con mayor rapidez.

“CoreWeave está construido para las cargas de trabajo de IA más exigentes, y la red es fundamental para entregar ese rendimiento a escala”, señaló Min Jun, director de producto para redes en CoreWeave. “Incorporar NVIDIA Spectrum-6 y la infraestructura Ethernet Spectrum-X con refrigeración líquida en nuestras fábricas de IA nos ayudará a ofrecer el ancho de banda, la resiliencia y la eficiencia que los clientes necesitan para entrenar modelos de frontera y desplegar inferencia más rápido”.

“A escala gigascale, el rendimiento depende de la coordinación: mantener cada GPU sincronizada para que un enlace lento no detenga todo el trabajo”, comentó Laurelle Roseman, vicepresidenta de asociaciones globales en Nebius. “Eso es lo que busca NVIDIA Spectrum-6, y por eso lo incorporamos temprano: una estructura que se mantiene rápida y resistente a medida que las cargas de trabajo más exigentes de nuestros clientes escalan”.

Para los pioneros de la IA que construyen su propia infraestructura, Spectrum-6 significa más GPU trabajando en sincronía, mayor utilización durante operaciones colectivas exigentes y mayor resiliencia para trabajos de larga duración.

En todos los casos de uso, el resultado es un tiempo de obtención de resultados más rápido y una mejor economía a una escala extraordinaria.

CoreWeave, Microsoft y Nebius estarán entre los primeros proveedores en desplegar infraestructura basada en NVIDIA Vera Rubin con Spectrum-6, extendiendo el acceso a la plataforma a través de una amplia comunidad de desarrolladores, startups y empresas.

¿Por qué el rendimiento de la IA es un problema de red?

El rendimiento máximo de la GPU por sí solo ya no predice el rendimiento de una fábrica de IA. Las cargas de trabajo de entrenamiento e inferencia a gran escala dependen de miles de aceleradores intercambiando datos continuamente. Las comunicaciones colectivas son las operaciones fundamentales que sincronizan el trabajo entre GPU y generan un intenso tráfico este-oeste, a menudo con muchos sistemas transmitiendo simultáneamente.

Ethernet fue diseñado principalmente para aplicaciones empresariales y tráfico norte-sur que se mueve entre usuarios, servidores y almacenamiento. No fue creado para los patrones de comunicación sincronizados y colectivos de la IA gigascale.

Spectrum-X Ethernet cambia eso. Diseñado específicamente para IA, transforma Ethernet en una estructura de escalabilidad de alto rendimiento, diseñada para mantener a cada GPU alimentada con datos.

¿Qué define a la próxima generación de Spectrum-X Ethernet?

El chip de switch Spectrum-6 se combina con la NVIDIA ConnectX-9 SuperNIC para formar la próxima generación de Spectrum-X Ethernet, y está diseñado como parte de NVIDIA Vera Rubin, reuniendo la CPU NVIDIA Vera, la GPU Rubin, el switch NVLink 6, la SuperNIC ConnectX-9, la DPU BlueField-4 y el switch Ethernet Spectrum-6.

Spectrum-6 admite factores de forma de óptica conectable y co-empaquetada. Además, las ofertas de Spectrum-6 admiten refrigeración líquida, lo que permite un enfoque de refrigeración integral de extremo a extremo para toda la fábrica de IA, al tiempo que aumenta la eficiencia energética de la red.

A diferencia de Ethernet estándar, la plataforma de redes NVIDIA Spectrum-X Ethernet para la expansión de fábricas de IA combina switches inteligentes, NVIDIA ConnectX-9 SuperNICs y software de red de pila completa, todo diseñado en conjunto para la IA. Las funciones avanzadas de la plataforma optimizan continuamente cómo se mueve el tráfico a través de la estructura.

Además, la tecnología NVIDIA Spectrum-X equilibra de forma inteligente el tráfico a través de las rutas disponibles, evita rápidamente las fallas y se recupera con precisión cuando los datos que viajan a través de una red no llegan a su destino. Además, el soporte para sistemas operativos de red abiertos y una selección de modelos de transporte RDMA brindan flexibilidad a los constructores de IA sin comprometer el rendimiento.

Spectrum-X Ethernet es inherente al enfoque de NVIDIA de integración vertical y apertura horizontal: co-diseñando silicio, sistemas y software en toda la plataforma de computación mientras soporta Ethernet estándar, sistemas operativos de red abiertos, protocolos abiertos y un amplio ecosistema de proveedores de nube, fabricantes de sistemas y socios de infraestructura. En lugar de necesitar ensamblar una colección de piezas y optimizarlas después, los clientes obtienen una plataforma de fábrica de IA completa diseñada para ofrecer el tiempo de entrenamiento más rápido y el menor costo por token.

Demostrando este enfoque, Spectrum-X Ethernet ofrece hasta 1.6 veces más rendimiento de red de IA que el Ethernet estándar y mantiene hasta un 95% de eficiencia de red en despliegues que superan los 100,000 GPU.

Las topologías multiplano de Spectrum-X aceleradas por hardware reducen el número de switches necesarios para los centros de datos en 1.7 veces para acelerar aún más la eficiencia de la red. Al sumar los beneficios logrados a través de la fotónica de Spectrum-X Ethernet, incluyendo una eficiencia energética 5 veces mayor y un tiempo medio entre incidentes mejorado en 10 veces, las mejoras en la estructura de red continúan entregando aceleraciones de carga de trabajo más allá de la optimización a nivel de componente.

Conozca más sobre la plataforma NVIDIA Spectrum-X Ethernet.

Vía NVIDIA Blog.