Nvidia quiere que tu red local funcione como un centro de datos para IA

La nueva herramienta PAIR (Personal AI Router) de Nvidia distribuye automáticamente las solicitudes de IA local a través de todos los dispositivos disponibles en una red doméstica, reduciendo significativamente los tiempos de espera para tareas de agentes en paralelo. Esta solución de código abierto se posiciona entre herramientas existentes como Ollama o LM Studio y los computadores conectados, operando como un router virtual inteligente.

Los usuarios no necesitan realizar cambios en sus agentes o aplicaciones actuales. En lugar de sobrecargar una única GPU, PAIR redirige las peticiones hacia las máquinas que se encuentran libres en la red y consolida los resultados para la aplicación solicitante. Esta arquitectura permite maximizar el uso del hardware disponible, optimizando el rendimiento global del sistema de IA sin requerir configuraciones manuales complejas.

¿Qué hardware es compatible con PAIR?

El soporte de hardware es amplio y abarca diversas generaciones de arquitectura. La herramienta es compatible con:

  • Tarjetas GeForce RTX desde la serie 20 en adelante.
  • Estaciones de trabajo RTX Pro.
  • Sistemas DGX Spark.
  • Apple Silicon, comenzando desde el chip M4.

En una demostración técnica, un clúster de tres dispositivos completó una tarea con cinco subagentes en poco menos de 9 minutos, logrando una mejora notable frente a los 18 minutos que tardó un único computador portátil para la misma carga de trabajo. PAIR detecta automáticamente los dispositivos compatibles en la red y asegura todo el tráfico entre máquinas mediante cifrado MTLS. La versión beta ya se encuentra disponible para Windows, macOS y Linux.

¿Cómo encaja PAIR en la estrategia de Nvidia?

La implementación de PAIR se integra en el esfuerzo más amplio de Nvidia por vincular la IA abierta de forma más estrecha a su propio ecosistema de hardware. Esta estrategia también se vio reflejada en su reciente adquisición de Hugging Face por un valor de 12.900 millones de dólares, consolidando su control sobre la infraestructura de desarrollo y ejecución de modelos de lenguaje a gran escala.

Vía The Decoder.