IA
GGUF, GPTQ, AWQ y EXL2, qué distingue a cada formato
La confusión parte por mezclar dos capas distintas, el contenedor que guarda los tensores en disco y el método que aprieta los pesos a menos bits.
MarkTechPost
Etiqueta
#gguf
1 nota publicada
Etiquetas relacionadas
Otros temas que aparecen junto a #gguf en nuestra cobertura editorial.