Etiqueta

#cuantizacion

2 notas publicadas

NVIDIA cuantiza Nemotron 3 Ultra a NVFP4 con 5,9x más throughput

El equipo de NVIDIA reduce el checkpoint del modelo de 550B desde 1.121 GB en BF16 a 352 GB en NVFP4, con la técnica four-over-six que recupera 98,5% de la precisión sobre Blackwell.

NVIDIA Developer28 jun

Cuantización FP8: Optimiza modelos con NVIDIA TensorRT

Aprende a exportar modelos cuantizados mediante ModelOpt a ONNX y compílalos con TensorRT para maximizar el throughput y reducir el uso de VRAM en GPUs NVIDIA.

NVIDIA Developer10 jun

Etiquetas relacionadas

Otros temas que aparecen junto a #cuantizacion en nuestra cobertura editorial.

#nvidia-tensorrt1 #Ia Local1 #Edge Computing1 #modelopt1 #deep-learning1 #Nvidia1 #nemotron1 #Blackwell1