Etiqueta

#nvfp4

2 notas publicadas

NVIDIA cuantiza Nemotron 3 Ultra a NVFP4 con 5,9x más throughput

El equipo de NVIDIA reduce el checkpoint del modelo de 550B desde 1.121 GB en BF16 a 352 GB en NVFP4, con la técnica four-over-six que recupera 98,5% de la precisión sobre Blackwell.

NVIDIA Developer28 jun

FP8 y NVFP4 en Transformers: hasta 3,48x con Blackwell B300

NVIDIA muestra cómo medir GEMM por GEMM la ganancia real de las precisiones bajas en CodonFM 5B, separando el costo de cuantización del rendimiento puro del kernel.

NVIDIA Developer17 jun

Etiquetas relacionadas

Otros temas que aparecen junto a #nvfp4 en nuestra cobertura editorial.

#Nvidia2 #Blackwell2 #Fp81 #transformers1 #entrenamiento-llm1 #nemotron1 #cuantizacion1 #model-optimizer1