Saltar al contenido
Etiqueta

#vllm

1 nota publicada

Open Source

ROCm 7.2.3 afina perfilado de vLLM y formaliza la API XIO

La actualización menor del stack open source de AMD corrige gaps al perfilar cargas vLLM, mejora MIGraphX con ONNX Runtime y documenta XIO, su API de I/O directo entre GPU y NVMe sin pasar por la CPU.

Phoronix Tests

Etiquetas relacionadas

Otros temas que aparecen junto a #vllm en nuestra cobertura editorial.