
IA
AIPerf reemplaza a GenAI-Perf para medir inferencia de LLM
NVIDIA reescribió su cliente de carga desde cero, con procesos de trabajo separados y coordinación por ZMQ, para que el propio medidor deje de ser el cuello de botella.
NVIDIA Developer
1 nota publicada
Otros temas que aparecen junto a #aiperf en nuestra cobertura editorial.