NVIDIA potencia Jetson con MIG y IA agéntica en JetPack 7.2

Despliegue de IA agéntica en el Edge con eficiencia de memoria en NVIDIA JetPack 7.2

Las características del lanzamiento incluyen el despliegue con un solo comando de NVIDIA NemoClaw, habilidades de agente de NVIDIA para Jetson, soporte oficial para Yocto Project y el modo Super Mode en Jetson AGX Orin de 32 GB.

• NVIDIA JetPack 7.2 mejora los dispositivos Jetson con el despliegue mediante un solo comando de NemoClaw, facilitando el desarrollo de aplicaciones de IA agéntica seguras para robótica, automatización industrial y sistemas de IA en el borde (edge AI).

• La actualización incluye habilidades de agente para Jetson que automatizan tareas de desarrollo como la personalización de Linux, optimización de memoria y benchmarking de modelos, acelerando el tiempo de llegada al mercado y reduciendo la complejidad.

• JetPack 7.2 introduce soporte para Multi-Instance GPU (MIG) en Jetson Thor para una ejecución de cargas de trabajo múltiples aislada y predecible, algo crítico para aplicaciones de IA en tiempo real en robótica y automatización industrial.

A medida que los agentes de IA se desplazan del mundo digital al entorno físico, pueden utilizar fácilmente NVIDIA Jetson para acelerar el despliegue en el mundo real con memoria y rendimiento optimizados.

NVIDIA JetPack 7.2 soporta directamente el despliegue con un solo comando de NVIDIA NemoClaw, una pila de software de código abierto que añade controles de privacidad y seguridad a OpenClaw. Introduce habilidades de agente de NVIDIA para Jetson —habilidades del lado del dispositivo Jetson y habilidades de BSP para Jetson— y extiende la pila de cómputo más reciente y las capacidades agénticas a NVIDIA Jetson Orin. La plataforma definida por software de Jetson hace esto posible: el mismo hardware sigue entregando más valor con cada lanzamiento de software.

Esta publicación presenta las nuevas características y capacidades de JetPack 7.2, que también incluyen:

• Soporte para NVIDIA Multi-Instance GPU (MIG) en NVIDIA Jetson Thor para la ejecución determinista de múltiples cargas de trabajo.

• Soporte oficial para Yocto Project para distribuciones de Linux personalizadas que pueden mejorar aún más la eficiencia del sistema.

• Super Mode para Jetson AGX Orin de 32 GB para un mayor rendimiento de IA y una mejor eficiencia de costos en el borde.

En conjunto, estas actualizaciones ayudan a los desarrolladores a obtener más provecho del hardware Jetson existente, acelerar el tiempo de comercialización y reducir el costo total de propiedad (TCO).

¿Cómo es la IA agéntica compatible con el software NVIDIA JetPack 7.2?

Con JetPack 7.2, Jetson está listo para NemoClaw desde el primer momento. JetPack 7.2 viene preconfigurado con las dependencias y la pila de software necesarias, por lo que puede desplegar y ejecutar flujos de trabajo basados en NemoClaw en Jetson sin una configuración manual del entorno. Esto le permite construir fácilmente aplicaciones de IA física agéntica en robótica, automatización industrial, agentes de visión y sistemas de IA en el borde.

Para instalar NemoClaw en un dispositivo Jetson que ejecute JetPack 7.2, ejecute el siguiente comando único:

curl -fsSL nvidia.com/nemoclaw.sh | bash

Habilidades de agente de NVIDIA para Jetson en JetPack 7.2

JetPack 7.2 también proporciona a los desarrolladores habilidades de agente Jetson para construir y optimizar pilas de software Jetson utilizando agentes de IA. Las habilidades de agente son un conjunto de instrucciones repetibles y ejecutables por agentes que definen qué herramientas llamar, qué salidas producir y cómo validar los resultados. En lugar de configurar manualmente cada paso del proceso de desarrollo, los desarrolladores pueden aprovechar las habilidades de agente a través de un agente para manejar estas tareas automáticamente.

Las habilidades de agente de Jetson aplican este patrón específicamente a los flujos de trabajo de desarrollo de software para Jetson. Estos flujos de trabajo impulsados por agentes ayudan a automatizar tareas comunes de desarrollo como la personalización de Linux para Jetson, optimización de memoria, benchmarking de modelos y configuración de despliegue. Con implementaciones tanto del lado del dispositivo como del lado del BSP, los desarrolladores pueden usar las habilidades de agente para reducir la complejidad del desarrollo y acelerar el camino desde la creación de prototipos hasta el despliegue en producción en plataformas Jetson.

JetPack 7.2 incluye tres categorías de habilidades:

• Habilidades de personalización de Linux para Jetson: Guían a un agente para construir y personalizar un BSP desde cero para placas portadoras personalizadas. Esto incluye la configuración de E/S, ajustes de reloj, control de ventiladores, perfiles de energía o cualquier otro módulo para un diseño de hardware específico. Las tareas que antes requerían semanas de esfuerzo manual pueden ser manejadas por un agente, reduciendo el tiempo de comercialización para diseños Jetson personalizados.

• Habilidades de optimización de memoria: Optimizan el uso de memoria en toda la pila de software. Estas habilidades pueden ajustar toda la pila comenzando por las reservas de memoria del cargador de arranque (bootloader), optimizar la reserva de memoria del kernel, reducir procesos redundantes en el espacio de usuario y ayudar a construir la configuración de software más eficiente en memoria para una carga de trabajo determinada. Esto reduce directamente el TCO al permitir que cargas de trabajo más capaces se ejecuten en configuraciones de menor memoria.

• Habilidades de benchmarking de modelos: Le ayudan a identificar la mejor configuración de modelo para su caso de uso. Estas habilidades cubren benchmarking de modelos, optimización de inferencia y diagnósticos de Jetson. Por ejemplo, un desarrollador que construye una aplicación basada en NemoClaw puede usar estas habilidades para determinar qué modelo se ejecuta de manera más eficiente en su dispositivo de destino para su tarea específica.

Junto con estas tres categorías de habilidades, NVIDIA también está introduciendo habilidades que ayudan a los agentes a construir tuberías (pipelines) de visión utilizando NVIDIA DeepStream y NVIDIA Metropolis Blueprint para búsqueda y resumen de video (VSS).

Para obtener más información y comenzar, consulte las habilidades del lado del dispositivo Jetson y las habilidades de BSP para Jetson en GitHub.

MIG en Jetson Thor permite particionar la GPU para cargas de trabajo de criticidad mixta

JetPack 7.2 en Jetson Thor introduce soporte para MIG, permitiendo que la GPU NVIDIA Blackwell integrada se particione en dos instancias de GPU aisladas con cómputo, caché y ancho de banda de memoria dedicados. Esto permite que múltiples cargas de trabajo de IA se ejecuten simultáneamente con un rendimiento predecible y una interferencia mínima.

Combinado con el kernel RT (tiempo real) predecible en JetPack 7, MIG ayuda a crear un entorno de ejecución más determinista para sistemas de criticidad mixta. El determinismo de la carga de trabajo es crítico para sistemas de IA física como robots humanoides, máquinas autónomas, automatización industrial y dispositivos médicos. Esto se debe a que la percepción, planificación, control, IA generativa y seguridad deben coexistir.

Vía NVIDIA Developer.