
Un modelo de 14,3 millones de parámetros maneja peces en un ESP32-S3
El proyecto pocket-tank destila un modelo de unos 26.000 millones de parámetros en un archivo de 7,56 MB que decide qué hace cada pez de un acuario virtual.
6 notas publicadas

El proyecto de código abierto escucha una pregunta, la responde con un modelo de lenguaje local y la lee en voz alta sin enviar audio a la nube.

Cameron Coward conectó un Texas Instruments Silent 700 a Termi3, un equipo que corre Llama 3.2-1B en local y entrega la respuesta impresa en papel térmico.

Sapphire RV64 suma hasta 8 GB de RAM, unidad de gestión de memoria para Linux y hasta cuatro núcleos a 400 MHz dentro de una sola FPGA.

La startup suiza Forgis corre su modelo de fundación sobre la placa de Arduino y traduce una instrucción hablada en un plan de movimiento completo, con 20 ms de latencia y sin pasar por la nube.

Zhengis Tileubay sostiene que el problema no es la falta de cómputo a bordo, sino la explosión combinatoria del árbol de decisiones, y que escalar hardware no la resuelve.
Otros temas que aparecen junto a #ia en el borde en nuestra cobertura editorial.