#modelopt

Cuantización FP8: Optimiza modelos con NVIDIA TensorRT

Aprende a exportar modelos cuantizados mediante ModelOpt a ONNX y compílalos con TensorRT para maximizar el throughput y reducir el uso de VRAM en GPUs NVIDIA.