
IA
NVIDIA explica cómo diseñar atención dispersa que rinda en sus GPU
Una guía para desarrolladores de modelos mide con un kernel FP8 de producción el costo del indexador, que en DeepSeek V3.2 se lleva el 47% del prefill de cada capa.
NVIDIA Developer