#fp8

NVIDIA Model Optimizer: cómo cuantizar CLIP en FP8

Receta paso a paso de post-training quantization con ModelOpt que lleva CLIP-ViT-L-14 de FP16 a FP8 sin perder calidad en clasificación zero-shot ni retrieval.