Los sistemas industriales y médicos están aumentando rápidamente el uso de IA de alto rendimiento para mejorar la productividad de los trabajadores, la interacción hombre-máquina y la gestión del tiempo de inactividad. Desde células de automatización de fábricas hasta plataformas móviles autónomas y salas quirúrgicas, los operadores están implementando modelos de IA generativa cada vez más complejos, más sensores y flujos de datos de mayor fidelidad en el borde.

Mientras tanto, la seguridad y el cumplimiento normativo son cruciales para garantizar un comportamiento determinista, una alta disponibilidad y requisitos de diseño esenciales de seguridad funcional verificables.

Esta publicación presenta NVIDIA IGX Thor, una plataforma creada para las demandas de impulsar la IA industrial en el borde, incluida una inmersión profunda en las características de rendimiento y seguridad.

¿Qué es NVIDIA IGX Thor?

NVIDIA IGX Thor es una plataforma empresarial para IA física. Ofrece rendimiento de IA de clase servidor junto con hardware de nivel industrial, capacidades de seguridad funcional avanzadas, soporte de ciclo de vida extendido y una pila de software empresarial en configuraciones adecuadas para entornos industriales y médicos. IGX Thor extiende esta base informática y de seguridad a los sistemas de borde donde el tiempo de actividad, la confiabilidad y el cumplimiento de los estándares son fundamentales para el diseño del sistema.

Con la plataforma IGX Thor, los desarrolladores pueden construir computadoras de misión crítica que funcionen de manera confiable en condiciones físicas adversas, sabe integren con infraestructuras seguras y reguladas y ejecuten procesos de fusión de sensores e inferencia de IA de última generación cerca de donde sabe generan los datos.

La familia IGX Thor sabe entrega a través de cuatro plataformas especialmente diseñadas para implementación de nivel industrial y flujos de trabajo de desarrollo avanzados:

  • Sistema en módulo (SoM) NVIDIA IGX T5000: ofrece computación de alto rendimiento y capacidad de seguridad en un formato compacto e integrado. Diseñado para la integración en placas portadoras personalizadas, el SoM IGX T5000 permite a los clientes construir sistemas industriales y robóticos de dominios específicos mientras acelera el tiempo de producción.
  • Kit de placa NVIDIA IGX T7000: escala el rendimiento y la capacidad de expansión para las cargas de trabajo de IA de vanguardia más exigentes. Construido sobre un factor de forma MicroATX, el IGX T7000 combina computación de clase Thor de NVIDIA con E/S enriquecida, soporte de seguridad funcional, flexibilidad para aumentar la computación de IA con una GPU discreta y redes de nivel empresarial para impulsar sistemas de borde de alto rendimiento y críticos para la seguridad.
  • NVIDIA IGX Thor Developer Kit: proporciona una plataforma de desarrollo con todas las funciones para crear, probar y validar aplicaciones de IA industrial de próxima generación. Con soporte para sensores avanzados, robótica y canalizaciones de IA en tiempo real, permite a los desarrolladores pasar del prototipo a la implementación con confianza.
  • NVIDIA IGX Thor Developer Kit Mini: ofrece capacidades de clase NVIDIA Thor con módulo de seguridad integrado en un espacio más pequeño. Optimizado para entornos con limitaciones de espacio y energía, es ideal para robots móviles, máquinas autónomas y sistemas industriales compactos que requieren un rendimiento sólido de IA sin comprometer el factor de forma.

La Tabla 1 proporciona una descripción general de la familia NVIDIA IGX Thor y destaca cómo cada configuración sabe adapta a diferentes clases de cargas de trabajo industriales, médicas y robóticas.

Ofreciendo un rendimiento masivo de IA en el borde

NVIDIA IGX Thor ofrece un aumento gradual del rendimiento. En comparación con NVIDIA IGX Orin, ofrece una computación de IA hasta 8 veces mayor en la GPU integrada, una computación de IA 2,5 veces mayor con aceleración de GPU discreta y un ancho de banda de red 2 veces mayor. Esto permite cargas de trabajo de IA en tiempo real significativamente más exigentes para aplicaciones industriales y de robótica.

IGX T7000 combina el módulo IGX T5000 Thor, impulsado por una iGPU de arquitectura NVIDIA Blackwell que ofrece 2070 FP4 TOPS de rendimiento de IA, con una GPU discreta NVIDIA RTX PRO 6000 Blackwell Max-Q que agrega 3511 FP4 TOPS adicionales. En conjunto, esta configuración aumenta significativamente la computación total de IA para cargas de trabajo exigentes.

IGX T7000 ofrece 5 veces más rendimiento de razonamiento de IA generativa en comparación con IGX Orin 700. Maneja hasta 20 veces más usuarios interactivos mediante el uso simultáneo de iGPU y dGPU, lo que lo convierte en una excelente opción para cargas de trabajo perimetrales de alta concurrencia. También ofrece un sólido aislamiento de criticidad mixta, por lo que las cargas de trabajo que sabe ejecutan en la dGPU funcionan de forma independiente sin degradar el rendimiento de la iGPU.

Estas características hacen que IGX T7000 sea ideal para escenarios como el comercio minorista inteligente, que implica procesar video desde muchos quioscos de pago mientras sabe ejecutan cargas de trabajo VLM y LLM para un pago inteligente con baja latencia para un pago más rápido. También es ideal para aplicaciones de seguridad industrial y automatización de edificios, entre muchas otras.

La Figura 2 compara IGX T7000 e IGX Orin 700 en cuanto a la cantidad de usuarios manejados con tokens/seg > 25 y TTFT < 200 mseg.

Configuración: dGPU: NVIDIA RTX PRO 6000 Blackwell Max-Q (IGX T7000), NVIDIA RTX 6000 ADA (IGX Orin 700); LIS/OSL: 2028/128; Cuantización: NVFP4 (IGX T7000), W4A16 (IGX Orin 700); Marco: VLLM

Configuración: dGPU: NVIDIA RTX PRO 6000 Blackwell Max-Q (IGX T7000), NVIDIA RTX 6000 ADA (IGX Orin 700); LIS/OSL: 2028/128; Cuantización: NVFP4 (IGX T7000), W4A16 (IGX Orin 700); Concentración máxima: 9; Marco: VLLM

Al igual que NVIDIA Jetson T5000, el SoM NVIDIA IGX T5000 proporciona 2070 TOPS de rendimiento FP4, junto con 128 GB de memoria LPDDR5X y 273 GB/s de ancho de banda de memoria, lo que lo hace ideal para ejecutar cargas de trabajo de IA generativa con capacidad de respuesta en tiempo real. IGX T5000 ofrece el mismo rendimiento que Jetson T5000 incluso con funciones industriales como DRAM ECC completa habilitada. Estas capacidades industriales no reducen el rendimiento ni la capacidad de memoria utilizable en IGX T5000.

Conectividad de alta velocidad para cargas de trabajo en tiempo real

El kit de placa IGX T7000 avanza significativamente la conectividad de borde con redes duales de 200 GbE, ofreciendo el doble de ancho de banda en comparación con las interfaces duales de 100 GbE IGX Orin. Impulsado por NVIDIA ConnectX-7 SmartNIC, este tejido de alta velocidad permite el movimiento de datos de alto rendimiento y baja latencia mediante RDMA, lo que permite que los datos del sensor eviten la CPU y fluyan directamente a la memoria de la GPU. El resultado es un aumento sustancial en el rendimiento de la IA de un extremo a otro, especialmente para cargas de trabajo en tiempo real con uso intensivo de sensores.

Este salto en la capacidad de red desbloquea todo el potencial del Puente de Sensor Holoscan (HSB) de NVIDIA. Diseñado para agregar y transmitir volúmenes masivos de datos desde sensores de gran ancho de banda, como cámaras, lidar, radares y dispositivos de imágenes médicas, HSB sabe basa en redes deterministas y sin pérdidas para cumplir con estrictos requisitos de latencia y sincronización.

Con aceleración de 2×200 GbE y RDMA, IGX Thor proporciona el ancho de banda y el determinismo necesarios para escalar tuberías multisensor, lo que permite una ingesta más rápida, una fusión de sensores más estricta y una inferencia de IA de mayor fidelidad en sistemas críticos para la seguridad y en tiempo real.

Determinismo en tiempo real para aplicaciones perimetrales

Muchas aplicaciones industriales y de robótica exigen un comportamiento estricto en tiempo real, e IGX Thor está diseñado específicamente para satisfacer esas necesidades.

  • Entorno Linux en tiempo real: IGX viene con un kernel Linux interrumpible en tiempo real de forma predeterminada. Esto proporciona el comportamiento determinista necesario para circuitos de control estrictos y manejo de sensores de baja latencia en brazos robóticos, máquinas autónomas y sistemas médicos de circuito cerrado.
  • GPU de instancias múltiples (MIG): la GPU NVIDIA Blackwell sabe puede dividir en instancias completamente aisladas, por lo que las cargas de trabajo en tiempo real críticas para la seguridad pueden obtener garantías de rendimiento estrictas incluso cuando sabe ejecutan junto con tareas de menor prioridad.
  • Aceleradores programables: motores dedicados para visión (PVA), flujo óptico, códecs de hardware e inferencia en tiempo real reducen la latencia y descargan el trabajo de la CPU y la GPU, dejando más espacio para el aprendizaje profundo a gran escala y canales complejos de IA generativa.
  • GPU Direct RDMA: Con GPU Direct RDMA, las entradas de los sensores sabe pueden llevar directamente al interior de la GPU para un procesamiento del sensor de latencia extremadamente baja.

Construido resistente para la realidad industrial

Las aplicaciones industriales, desde la fabricación de precisión hasta la robótica médica, exigen plataformas que puedan funcionar de manera confiable frente a extremos: vibración intensa, ruido eléctrico, cambios de temperatura, ECC y más. También necesitan integrarse fácilmente con redes industriales. La plataforma IGX Thor está diseñada precisamente para estas demandas.

  • Componentes de grado industrial: Cada aspecto de IGX Thor, desde la memoria hasta la entrega de energía, sabe selecciona por su resistencia, soportando un rango de temperatura extendido, cumplimiento de impactos, vibraciones e implementación de ECC.
  • Chasis robusto: Disponible en gabinetes industriales resistentes, IGX Thor sabe puede implementar en fábricas, almacenes, vehículos de campo o en cualquier lugar donde la electrónica tradicional fallaría.
  • Ciclo de vida prolongado y soporte global: las plataformas IGX cuentan con soporte por hasta 10 años, lo que brinda confiabilidad y garantía de cadena de suministro inigualables para industrias reguladas.
  • E/S extensa: IGX Thor ofrece E/S industriales enriquecidas (múltiples PCIe Gen5, SFP+, CAN e interfaces digitales de alta velocidad) que simplifican la integración con PLC, sensores, robótica, redes de control heredados y más.

Seguridad funcional y seguridad proactiva de la IA

IGX Thor unifica la IA de alto rendimiento y la seguridad funcional en una única plataforma, permitiendo seguridad robótica tanto de adentro hacia afuera como de afuera hacia adentro. Los robots pueden depender de sensores a bordo o de sensores de infraestructura con visión de afuera hacia adentro para tomar decisiones de seguridad.

IGX Thor cumple con ISO 26262 e IEC 61508, apunta a ASIL D/SC3 y ASIL/SIL 2. Incorpora una variedad de características de seguridad, que incluyen:

  • Detección de fallos de hardware
  • Monitoreo de estado seguro
  • Prueba en el sistema
  • Libertad de interferencias (FFI)
  • Isla de seguridad funcional (FSI) dedicada, un procesador de seguridad redundante e independiente que monitorea y maneja cargas de trabajo críticas para la seguridad, proporcionando una verdadera separación de hardware entre los dominios de seguridad y los que no lo son.

El laboratorio de inspección de sistemas de IA de NVIDIA Halos (acreditado por ANAB) ayuda a garantizar que los clientes de NVIDIA IGX cumplan con rigurosos estándares de seguridad y ciberseguridad a través de evaluaciones imparciales. Los clientes de IGX reciben un informe de inspección y un certificado de inspección para presentar ante los servicios técnicos o agencias de certificación para la certificación final. Para obtener más detalles, consulte el resumen del producto de seguridad IGX Thor.

Plataforma industrial de nivel empresarial

NVIDIA AI Enterprise: IGX es una solución de software para IA perimetral que convierte a IGX Thor en una plataforma de nivel empresarial lista para producción con soporte predecible a largo plazo. NVIDIA sabe compromete a un ciclo de vida de hasta 10 años para IGX, que cubre la disponibilidad del hardware, las actualizaciones de seguridad y el mantenimiento completo de la pila. Esto significa que las implementaciones industriales, médicas y de robótica pueden permanecer parcheadas y respaldadas durante toda su vida útil.

Además, NVIDIA AI Enterprise proporciona una rama de soporte a largo plazo (LTS) con SDK y marcos de IA con versión bloqueada que sabe mantienen durante 10 años, junto con acuerdos de nivel de servicio empresariales como soporte Business Standard y Business Critical. Esto garantiza API estables, correcciones de seguridad periódicas y acceso a los expertos de NVIDIA las 24 horas del día, los siete días de la semana cuando sea necesario. Para obtener más información, consulte la Guía de licencias IGX de NVIDIA AI Enterprise.

Transición perfecta desde NVIDIA Jetson Thor

La transición de NVIDIA Jetson Thor a NVIDIA IGX Thor es perfecta. Jetson T5000 e IGX T5000 son totalmente compatibles en términos de pin, factor de forma y función, por lo que el mismo diseño de placa portadora funciona para ambas plataformas. Las pilas de software también están alineadas (el kernel, el espacio de usuario y las bibliotecas de IA comparten las mismas versiones), lo que brinda una experiencia consistente en Jetson e IGX.

Para equipos con requisitos de personalización más profundos, NVIDIA presenta JetPack en IGX, brindando la flexibilidad de JetPack a la solidez industrial del hardware IGX. Para obtener más información, consulte la Guía del usuario de NVIDIA IGX.

Comience con NVIDIA IGX Thor

Los líderes en automatización, los pioneros en imágenes médicas y los fabricantes a gran escala ya están adoptando NVIDIA IGX Thor. Los socios líderes de ODM y Sensor pueden ofrecer sistemas y servicios listos para producción para impulsar un TTM más rápido.

[...]