Etiqueta

#llama cpp

3 notas publicadas

Agentes IA locales en Windows: MXC y llama.cpp duplican rendimiento

COMPUTEX 2026 y Microsoft Build traen sandboxing nativo con Microsoft eXecution Containers, tensor parallelism en llama.cpp y nuevos modelos Hermes y Holo 3.1 para agentes locales sobre PCs RTX.

NVIDIA Developer3 jun

Electrónica

LuckFox Lyra: SBC del tamaño del Pi Pico que opera por código Morse

Un script POSIX llamado Morstdio convierte el botón y LED integrados del LuckFox Lyra en una terminal completa, con extensiones tipo vim y hasta un Llama.cpp embebido en 128 MB de RAM.

Hackaday3 jun

Electrónica

Optane PMem usada corre Kimi K2.5 a 4 tokens/s en una RTX 3060

Un usuario del subreddit Local LLaMA muestra que seis módulos Intel Optane DCPMM de segunda mano alcanzan para alojar un mixture-of-experts de un billón de parámetros con una sola GPU.

Tom's Hardware23 may

Etiquetas relacionadas

Otros temas que aparecen junto a #llama cpp en nuestra cobertura editorial.

#optane1 #kimi-k21 #llm-local1 #mixture-of-experts1 #memoria-cxl1 #luckfox-lyra1 #sbc1 #morse1