Si quisieras un compañero robot rápido, capaz y con personalidad propia al que pudieras hablarle en cualquier parte, incluso sin cobertura celular ni WiFi, el usuario de Reddit CreativelyBankrupt tiene algo que mostrarte. Este entusiasta de los modelos de lenguaje locales diseñó "un robot-maleta totalmente offline construido alrededor de un Jetson Orin NX Super 16GB" al que bautizó Sparky. Corre Gemma 4 E4B localmente, incluye más de 30 sensores para reconocer su entorno y, en palabras del propio autor, "tiene opiniones".
El video del proyecto, compartido en el subreddit r/LocalLLaMA, muestra a Sparky en acción dentro y fuera de la maleta con sus distintivos ojos saltones digitales.
¿Cómo está construido Sparky por dentro?
Sparky no es solo portátil: la combinación de poder de procesamiento y batería de sensores lo convierte en un asistente bastante autónomo cuando se lo lleva fuera de casa. CreativelyBankrupt explica que el sistema corre íntegramente sobre el Jetson:
"Sparky usa Gemma 4 E4B en cuantización Q4_K_M vía llama.cpp, con KV cache q8_0 y flash attention activado. Maneja 12K de contexto para memoria conversacional y rol de sistema nativo."
Esos más de 30 sensores le entregan al robot una ventana hacia el mundo físico, sin importar dónde lo lleves.
¿Qué tan rápido responde el robot?
El rendimiento es respetable para un dispositivo embebido. El Time To First Token (TTFT) de aproximadamente 200 milisegundos significa que Sparky empieza a formular respuestas casi al instante, y luego sostiene una velocidad de 14-15 tokens por segundo, según el autor.
La interacción se siente natural gracias a un pipeline de voz armado con dos componentes open source: SenseVoiceSmall para conversión de voz a texto y Piper para texto a voz. El audio de Piper se sincroniza con un avatar facial renderizado en PixiJS, y la animación de la boca se actualiza a 43 Hz. Visión y reconocimiento óptico de caracteres ahora son nativos de Gemma 4, lo que evita tener que montar modelos adicionales para procesar imágenes.
La interfaz física combina una fila de botones, un joystick y una rueda codificadora analógica para configurar y conversar con el dispositivo.
¿Por qué importa este experimento?
El proyecto es interesante porque demuestra que un single board computer del segmento Jetson Orin NX Super (alrededor de USD 999 en distribuidores Nvidia) ya alcanza para correr un modelo de la familia Gemma 4 con visión nativa, sin depender de la nube ni de conectividad. Para integradores latinoamericanos que diseñan kioscos interactivos, asistentes para espacios sin internet o demostraciones de campo, la receta abierta de CreativelyBankrupt es replicable con componentes accesibles: el Jetson Orin Nano de USD 249 funciona como puerta de entrada más liviana para experimentar antes de escalar al Orin NX Super.
CreativelyBankrupt compartió la génesis de Sparky en Reddit, en parte para pedir consejos sobre cómo optimizar Gemma 4 E4B en hardware de clase Orin. La mayoría de las respuestas, sin embargo, simplemente celebran lo "genial, adorable, encantador y kitsch" del experimento.
