La empresa de carga de vehículos eléctricos Xeal planea usar su red en Estados Unidos para montar lo que llama la "primera red de cómputo de inferencia en el borde que usa capacidad ociosa de carga de vehículos eléctricos", informó Tom's Hardware el 6 de octubre. La idea parte de lo que ya tiene. Son más de 1.600 ubicaciones y 200 MW de infraestructura eléctrica instalada y con permisos, y sobre eso apunta a "desplegar más de 100.000 GPU de NVIDIA".

Para eso desarrolló los Latient Pods, gabinetes que llevan cada uno hasta 48 GPU Nvidia Hopper o Blackwell Ultra. Tom's Hardware anota que la seguridad de las estaciones tendrá que alcanzar para mantener lejos a los ladrones, porque cada gabinete probablemente vale más de 2 millones de dólares.

¿Qué propone Xeal?

Nikhil Bharadwaj, cofundador y CEO de Xeal, explicó que los Latient Pods pueden entregar cómputo de inferencia hoy, mientras los centros de datos nuevos siguen en construcción.

"Latient es la forma más rápida de poner en línea cómputo nuevo, aprovechando capacidad energética que ya tiene permisos y conexión a la red pero está ociosa, ubicada justo donde se necesita para una latencia ultrabaja, y sin necesidad de conexión de agua", dijo el ejecutivo.

La conexión a la red eléctrica es uno de los pasos más difíciles para quien quiere sumar cómputo nuevo. Las estaciones de Xeal "normalmente operan a menos del 10% de su capacidad autorizada", y con eso pueden entregar capacidad de procesamiento a través de una red distribuida por toda un área metropolitana.

Un representante de Nvidia también elogió la futura red de Latient Pods como una forma de acercar la inferencia de baja latencia a los usuarios y aprovechar mejor infraestructura que ya está construida.

¿Cómo es un Latient Pod?

En la imagen de referencia de Xeal, un Latient Pod se parece bastante a un gabinete de fibra óptica de los que se ven en la calle. Estas son las características que anuncia la empresa:

  • Funciona con la capacidad ociosa de carga de vehículos eléctricos
  • Hasta 48 GPU Nvidia Hopper o Blackwell Ultra
  • Refrigeración propia e independiente, sin conexión de agua
  • Operación silenciosa, bajo 65 dB (comparable a una lavadora)
  • Arriendo fijo o ingreso adicional para el dueño del terreno
  • Suma hasta 1 millón de dólares al valor de la propiedad con una inversión mínima o nula
  • Todas las cuentas de electricidad se traspasan al arrendatario
  • Posible ahorro para los clientes que cargan sus autos
  • Gabinete NEMA 4, preparado para la intemperie
  • Instalación y puesta en marcha en horas

Las cuentas de las 100.000 GPU

Si Xeal tiene más de 1.600 ubicaciones y un Latient Pod lleva hasta 48 GPU, la meta de compra de 100.000 GPU de Nvidia implica que algunos sitios tendrán más de un gabinete. O que la empresa piensa construir más estaciones, hasta llegar a cerca de 2.100 en total, según el cálculo de Tom's Hardware.

La empresa asegura que la ubicación de sus gabinetes en torno a las ciudades, una característica que bautizó Metro Edge, ofrece latencias bajo 20 ms, bastante menos que la inferencia que corre en un centro de datos lejano.

Tom's Hardware ya había cubierto la relación entre autos eléctricos y cómputo distribuido, en otro contexto. El año pasado Elon Musk propuso usar el activo sin explotar de los millones de autos Tesla en circulación. Lo llamó "100 gigawatts de inferencia" que podrían usarse cuando los vehículos están "aburridos".

El riesgo del robo

Las estaciones de carga ya son blanco de ladrones. Tom's Hardware informó antes sobre una "plaga" de robos de cables de cargadores, motivada solo por el valor del cobre de los gruesos cables que usan estas estaciones. La seguridad necesaria para gabinetes llenos de GPU carísimas sería de otra escala. Según cifras de 2024, 48 GPU Blackwell valían cerca de 2.000.000 de dólares, y hoy seguramente bastante más.

Xeal dice que el primer Latient Pod estará en línea antes de fin de año.