
Helion llega al hub de kernels de Hugging Face
El lenguaje de dominio específico de PyTorch para escribir kernels de alto rendimiento ya se puede empaquetar, autoajustar y distribuir desde el Hub, con configuraciones preajustadas incluidas.
4 notas publicadas

Nota AI descartó los modelos de referencia y diseñó un Vision Transformer de 98.000 parámetros que restaura solo el canal de luminancia para lograr 30 cuadros por segundo en cámaras de vigilancia.

NVIDIA publica las reglas prácticas para decidir cuántos tokens adelantar y con qué mecanismo generarlos, sin perder precisión en la inferencia.

Un recorrido práctico sobre una tubería de procesamiento de imágenes que, con cambios de pocas líneas, pasa de arrastrar un error de memoria compartida a correr con flujos asincrónicos.
Otros temas que aparecen junto a #optimizacion en nuestra cobertura editorial.