Construir sistemas de IA a escala exige inferencia de baja latencia, busqueda vectorial rapida, buen rendimiento por dolar en GPU e infraestructura que crezca sin multiplicar la complejidad operativa.
El ultimo trabajo de NVIDIA con Amazon Web Services (AWS) aborda cada uno de esos puntos. Entre Amazon OpenSearch y Amazon EC2, la infraestructura de IA de NVIDIA abre caminos mas practicos para desplegar IA en produccion.
Las instancias EC2 G7, potenciadas por GPUs NVIDIA RTX PRO 4500 Blackwell Server Edition, expanden la capa de computo para IA, graficos, video y analitica de datos, mientras que la libreria NVIDIA cuVS acelera la capa de recuperacion al convertir la indexacion vectorial por GPU en la opcion por defecto de OpenSearch Serverless. Y con AWS alcanzando el estatus NVIDIA Exemplar Cloud sobre la plataforma NVIDIA GB300, los clientes ganan confianza de que estan recibiendo el rendimiento optimo para sus cargas de entrenamiento.
¿Que traen las nuevas EC2 G7 con RTX PRO 4500 Blackwell?
Las instancias Amazon EC2 G7 llevan las GPUs NVIDIA RTX PRO 4500 Blackwell Server Edition a AWS para inferencia de IA, graficos, computacion espacial y analitica acelerada por GPU. Se trata de un nuevo tipo de instancia diseñado para cargas de produccion que necesitan rendimiento sin la sobrecarga operativa de administrar una plataforma GPU propia.
Comparadas con G6, las G7 entregan hasta 4.6x de rendimiento en inferencia de IA, hasta 2.1x de rendimiento grafico, y analitica acelerada por GPU significativamente mas rapida en Amazon EMR mediante la libreria NVIDIA cuDF para cargas Apache Spark.
Con soporte para hasta 8 GPUs, 256 GB de memoria GPU total, 700 Gbps de red habilitada por EFA y hasta 7.6 TB de almacenamiento NVMe local, en configuraciones de una, dos, cuatro y ocho GPUs (mas bare metal, proximamente), las G7 permiten a los clientes dimensionar la infraestructura sin sobreaprovisionar.
La versatilidad de la plataforma significa que los equipos de IA obtienen inferencia de menor latencia. Los equipos de medios y entretenimiento acceden a flujos de video de alta resolucion y renderizado. Los equipos de simulacion, CAD, infraestructura de escritorio virtual, gaming y computacion espacial reciben el mismo tipo de instancia para aplicaciones graficas intensivas. Y los equipos de datos pueden aplicar las mejoras de memoria GPU, almacenamiento local y red a pipelines de analitica y bases de datos vectoriales.
Las G7 quedan accesibles desde las AWS Deep Learning AMIs, Amazon Deep Learning Containers, Amazon EMR, Amazon EKS, Amazon ECS y AMIs graficas, y proximamente desde Amazon SageMaker AI.
¿Por que cuVS pasa a ser el default en OpenSearch?
La proxima generacion de Amazon OpenSearch Serverless potencia IA agentica y cargas dinamicas sin requerir administracion de infraestructura. Usa indexacion vectorial acelerada por GPU, impulsada por NVIDIA cuVS, como opcion de computo por defecto para todas las colecciones vectoriales.
Para los equipos que construyen retrieval-augmented generation (RAG), busqueda semantica, sistemas de recomendacion y aplicaciones agenticas, ese cambio importa: convierte la busqueda vectorial sobre GPU desde un proyecto especializado de optimizacion a una capacidad estandar de AWS.
El impacto en el cliente es directo: indexacion vectorial hasta 10x mas rapida a un cuarto del costo comparada con builds solo en CPU, lo que vuelve practicas las bases de datos vectoriales de escala mil millones en menos de una hora.
Con NVIDIA cuVS como default en OpenSearch Serverless, los clientes de AWS reciben un camino mucho mas rapido desde datos crudos a infraestructura productiva de recuperacion para IA, con escalado serverless que reduce la carga operativa cuando las cargas estan ociosas.
AWS gana estatus Exemplar Cloud para entrenamiento en GB300
AWS alcanzo el estatus NVIDIA Exemplar Cloud sobre NVIDIA GB300 para cargas de entrenamiento. Significa que AWS cumple los umbrales de rendimiento estrictos que NVIDIA usa para benchmarkar cargas de IA contra su arquitectura de referencia.
El logro es resultado de un profundo trabajo de coingenieria entre los equipos de AWS y NVIDIA. A traves de la iniciativa NVIDIA Exemplar Clouds, los desarrolladores y lideres de IA pueden confiar en que estan usando infraestructura cloud consistente y de alto rendimiento para entrenamiento a gran escala, lo que ayuda a evaluar proveedores con mayor seguridad, mejorar el costo total de propiedad y mover proyectos de IA desde la planificacion a la produccion mas eficientemente.
En conjunto, estos avances refuerzan cada capa del stack de infraestructura de IA en AWS. El hilo conductor es el mismo: infraestructura productiva de IA que rinde a escala, sin sumar carga operativa a los equipos que la operan.
Mas informacion en este blog de AWS.
