NVIDIA acaba de lanzar los modulos Jetson T2000 y T3000, presentados como opciones "mainstream" mas pequenas y de menor costo frente a los modulos Jetson T4000 y T5000 que la compania introdujo el ano pasado para aplicaciones de IA en el borde y robotica.
El Jetson Thor T3000 y su version industrial IGX Thor T3000, que agrega seguridad funcional, entregan ambos hasta 865 TFLOPS FP4 de computo de IA. Integran una GPU NVIDIA Blackwell de 1536 nucleos, una CPU Arm Neoverse de ocho nucleos, 32 GB de memoria LPDDR5X con 273 GB/s de ancho de banda y conectividad de 25 GbE. El Jetson Thor T2000 entrega hasta 400 TFLOPS de rendimiento en IA, cuenta con una GPU Blackwell de 1024 nucleos, 16 GB de LPDDR5 con 137 GB/s de ancho de banda y red de 10 GbE. Ambos ocupan cerca de la mitad del tamano de los modulos T4000 y T5000.
Comparativa de la familia Jetson Thor
Esta es una comparacion preliminar entre los modulos Jetson Thor T2000, T3000, T4000 y T5000.
| Especificacion | Jetson T2000 | Jetson T3000 | Jetson T4000 | Jetson T5000 |
|---|---|---|---|---|
| Rendimiento IA | 400 TFLOPS (FP4, sparse) | 865 TFLOPS (FP4, sparse) | 1200 TFLOPS (FP4, sparse) | 2070 TFLOPS (FP4, sparse) |
| GPU | Blackwell, 1024 nucleos | Blackwell, 1536 nucleos | Blackwell, 1536 nucleos, 64 Tensor Cores 5.a gen, MIG con 6 TPC | Blackwell, 2560 nucleos, 96 Tensor Cores 5.a gen, MIG con 10 TPC |
| CPU | Arm Neoverse-V3AE, 6 nucleos | Arm Neoverse-V3AE, 8 nucleos | Arm Neoverse-V3AE, 12 nucleos | Arm Neoverse-V3AE, 14 nucleos |
| Memoria | 16 GB LPDDR5X, 137 GB/s | 32 GB LPDDR5X 256 bits, 273 GB/s | 64 GB LPDDR5X 256 bits, 273 GB/s | 128 GB LPDDR5X 256 bits, 273 GB/s |
| Red | 2x 10 GbE | 25 GbE | 3x 25 GbE | 4x 25 GbE |
| Tamano | 50 x 87 mm aprox. (mitad del T4000/T5000) | 50 x 87 mm aprox. | 100 x 87 mm, 699 pines | 100 x 87 mm, 699 pines |
| Consumo | Cerca de la mitad del T5000 (20 a 65 W aprox.) | 20 a 65 W aprox. | 40 a 75 W | 40 a 130 W |
Es preliminar porque, al momento de escribir este articulo, NVIDIA aun no publica las especificaciones completas de los nuevos modulos T2000 y T3000. En cambio, la informacion proviene del anuncio oficial y de las especificaciones de los proximos AAEON BOXER-8752AI y BOXER-8723AI, computadores embebidos sin ventilador basados en el T2000 y el T3000 respectivamente.
¿Que rinde el T3000 frente al T5000?
Las cifras de TFLOPS son un dato, pero NVIDIA afirma que el T3000 logra un rendimiento de inferencia similar al T5000 en cargas multimodales, incluidos modelos de lenguaje (LLM), modelos de vision y lenguaje (VLM), modelos de vision, lenguaje y accion, y world foundation models. Segun la aplicacion, migrar al T3000 puede ayudar a reducir costos en medio de los altos precios de la memoria sin afectar el rendimiento de forma significativa.
En cualquier caso, esto significa que NVIDIA ahora cuenta con un portafolio escalable para IA en el borde y robotica, que va desde el Jetson Orin Nano de 70 TOPS hasta el Jetson T5000 de 2070 TOPS.
¿Cuando llegan y como desarrollar?
No habra un kit de desarrollo especifico para los Jetson Thor T2000 y T3000: los desarrolladores pueden apoyarse en el kit de desarrollo Jetson AGX Thor para emular el rendimiento de los modulos T3000 y T2000. El T3000 tendra soporte en el SDK Jetpack 7.2.1 que se libera a fin de mes, y el modo de emulacion del T2000 llegaria en una version posterior. Ambos modulos estan programados para estar disponibles en el primer trimestre de 2027.
Junto con el anuncio de hardware, NVIDIA tambien libero las Jetson agent skills, que los desarrolladores pueden usar para optimizar todo el stack de software y reducir el uso de memoria en cuestion de dias. No es una reduccion menor: empresas como UBTech, Agile Robots y Connect Tech habrian recortado hasta 15 GB de uso de memoria, lo que les permitio cambiarse al modulo Jetson AGX Orin de 32 GB en reemplazo de variantes mas caras.
Otro lanzamiento de software es el modelo Cosmos 3 Edge de 4 mil millones de parametros, disenado para que los sistemas fisicos puedan "ver el mundo, razonar sobre el en tiempo real, y predecir y generar acciones mediante inferencia en el dispositivo". Esta disponible a traves de la familia de world foundation models de codigo abierto NVIDIA Cosmos 3.
