Etiqueta

#kernels gpu

2 notas publicadas

Helion entra al backend lineal de vLLM y supera a CUTLASS en Hopper

Un solo kernel GEMM escrito en Helion cubre las variantes estándar, Split-K y Swap-AB, y el autoajuste elige la mejor para cada forma de entrada.

PyTorch Bloghace 6 días

Meta supera a FlashAttention-4 en Blackwell con un kernel escrito en Tri

El kernel de atención irregular de su modelo de anuncios GEM, escrito con las extensiones TLX, mide 3.200 líneas y gana 13% en la pasada hacia adelante y 50% en la de retropropagación.

PyTorch Blog3 oct

Etiquetas relacionadas

Otros temas que aparecen junto a #kernels gpu en nuestra cobertura editorial.

#pytorch2 #Meta1 #triton1 #Nvidia Blackwell1 #atencion1 #vllm1 #helion1 #inferencia1