¿Por qué Nvidia lanza un modelo de IA gratuito?

Nvidia ha dado un paso estratégico en la carrera de la IA de código abierto con el lanzamiento de Nemotron 3.5 Lightning, un modelo de pesos abiertos (open-weight) diseñado específicamente para agentes. Paralelamente, la firma presentó NeMo Switchyard, una herramienta técnica orientada a reducir drásticamente los costos de ejecución de estos agentes a gran escala.

El núcleo del modelo es su eficiencia operativa. A diferencia de los modelos masivos que requieren centros de datos, Nemotron 3.5 Lightning está optimizado para ejecutarse en una sola GPU dentro de un computador convencional, facilitando su adopción en entornos de desarrollo local.

¿Qué hace exactamente Nemotron 3.5 Lightning?

La arquitectura de este modelo se basa en la técnica de destilación, permitiendo que un modelo de menor tamaño herede las capacidades de las versiones superiores de Nemotron. Nvidia reporta métricas de rendimiento superiores a las alternativas actuales:

  • Generación de respuestas hasta 4 veces más rápida.
  • Velocidad de ejecución un 30% superior frente a modelos abiertos comparables.
  • Optimizado para tareas especializadas dentro de sistemas multiagente.

La empresa busca atraer a desarrolladores que prefieran mantener el procesamiento en local, evitando los riesgos de privacidad asociados a enviar datos confidenciales a la nube. El modelo ya está siendo validado por firmas como CrowdStrike, CodeRabbit y Harvey, y se encuentra disponible para descarga en Hugging Face, ModelScope y OpenRouter.

¿Cómo reduce costos NeMo Switchyard?

La herramienta NeMo Switchyard funciona como un orquestador inteligente. Su función principal es evaluar la complejidad de cada petición y asignar el modelo adecuado para resolverla, equilibrando precisión y costo. Según pruebas internas de Nvidia, esta solución permite completar tareas a un costo de aproximadamente un tercio de lo que supondría utilizar Opus 4.8 de Anthropic de forma aislada.

Esta estrategia responde a la visión de Jensen Huang, CEO de Nvidia, quien defiende que la IA abierta es el motor que seguirá impulsando la demanda de chips y hardware de cómputo. Mientras competidores como Meta lanzan propuestas como Muse Spark, Nvidia refuerza su ecosistema asegurando que el hardware local sea el destino preferido para cualquier agente de IA.

Vía Xataka.