IA
Transformers ya corre los modelos GGUF de llama.cpp
La integración reutiliza los kernels de ggml, parte por los Mac con Apple Silicon y arranca con la arquitectura Qwen3.5.
Hugging Face
Etiqueta
#llama cpp
6 notas publicadas
Robótica
Un servidor usado de 500 dólares corre modelos de IA sin GPU
El youtuber MattMo llenó un Dell PowerEdge R720 de 2012 con 384 GB de memoria DDR3 ECC y ejecutó modelos completos en los dos Xeon, sin una sola tarjeta aceleradora.
Hackster.io
IA
GGUF, GPTQ, AWQ y EXL2, qué distingue a cada formato
La confusión parte por mezclar dos capas distintas, el contenedor que guarda los tensores en disco y el método que aprieta los pesos a menos bits.
MarkTechPost
IA
NVIDIA lleva agentes locales de un clic a Hermes y OpenClaw
En IFA 2026 la empresa anunció configuración automática de modelos locales en Windows, inferencia hasta 1,9 veces más rápida con llama.cpp y la llegada de los equipos RTX Spark en octubre.
NVIDIA Blog
Open Source
Lemonade 11.9 estrena el backend ROCm HRX de AMD
El servidor local de IA respaldado por AMD suma soporte experimental de HRX sobre llama.cpp, con mejoras de 30% a 50% en la fase de prellenado frente a los backends Vulkan y HIP existentes.
Phoronix Tests
IA
Agentes IA locales en Windows: MXC y llama.cpp duplican rendimiento
COMPUTEX 2026 y Microsoft Build traen sandboxing nativo con Microsoft eXecution Containers, tensor parallelism en llama.cpp y nuevos modelos Hermes y Holo 3.1 para agentes locales sobre PCs RTX.
NVIDIA Developer
Etiquetas relacionadas
Otros temas que aparecen junto a #llama cpp en nuestra cobertura editorial.