Después de aparentar el abandono de sus raíces en código abierto durante la primera mitad del año, Meta ofreció a las empresas un rayo de esperanza el lunes con el lanzamiento de su primer modelo de pesos abiertos en más de un año.
Muse Glimmer es un modelo de lenguaje de 30 mil millones de parámetros destilado desde Muse Spark, el modelo mayor y por ahora propietario de la compañía. Llega mientras las tecnológicas estadounidenses lidian con una crisis por la proliferación de modelos chinos de pesos abiertos y con el llamado a crear alternativas domésticas.
Meta construyó su reputación sobre el desarrollo de pesos abiertos, empezando por la manada Llama en 2023. Pero después de que Llama 4 fracasara y de que la compañía reestructurara su grupo de IA, hubo críticos que cuestionaron el compromiso de Mark Zuckerberg con la IA abierta.
¿Para qué está pensado el modelo?
Meta describe a Muse Glimmer como especialmente apto para cargas de inferencia local: agentes que corren en el equipo, asistentes de programación y aplicaciones que requieren uso robusto de herramientas multimodales y llamado a funciones.
Se publicó bajo licencia Apache 2.0, altamente permisiva, así que las empresas pueden desplegar, usar y modificar el modelo como estimen conveniente. El soporte ya empezó a llegar a plataformas populares de inferencia local como Llama.cpp, Ollama y Unsloth, con implementaciones optimizadas esperadas en las próximas semanas.
Ahora bien, con 30 mil millones de parámetros, Muse Glimmer no mueve demasiado la aguja en la disputa por la supremacía estadounidense en pesos abiertos. Es demasiado pequeño para competir con Kimi K3 de Moonshot AI, Qwen 3.8-Max de Alibaba, DeepSeek V4 Flash o cualquiera de los otros modelos chinos que dominaron el ciclo noticioso de los últimos meses.
En cambio, está posicionado como modelo para pequeñas y medianas empresas o para entusiastas, compitiendo con modelos de tamaño similar de Alibaba y Google. Eso se refleja en las cifras de la propia Meta, que lo miden contra Qwen 3.6-27B de Alibaba y Gemma 4 31B de Google. Conviene tomar esas comparaciones con cautela, pero Glimmer sí parece superar al modelo de Google en la mayoría de los escenarios y pelear de igual a igual con el equivalente de Alibaba.
La comparación, eso sí, probablemente no envejezca bien: Qwen 3.8-27B debería salir en cualquier momento.
¿En qué hardware cabe realmente?
El recuento relativamente bajo de parámetros implica requisitos de hardware modestos frente a modelos de clase frontera como DeepSeek V4. En su precisión nativa BF16, el modelo debería entrar cómodo en una sola NVIDIA RTX Pro 6000 o en una AMD MI350P.
Cuantizado a 4 bits, los pesos se encogen de unos 60 GB a poco menos de 16 GB, suficientemente pequeño para caber en una tarjeta de consumo de 20 a 24 GB, como una RTX 3090 o 4090, o una RX 7900 XT y XTX. Para quienes tienen tarjetas de 16 GB la falta de memoria de trabajo obliga a bajar a una cuantización de 3 bits, más pequeña y menos precisa.
Incluso logrando que el modelo entre, no será tan rápido como otros lanzamientos recientes, por ejemplo Qwen 3.6-35B-A3B o Gemma 4 26B-A4B, porque Glimmer usa sus 30 mil millones de parámetros para generar cada token mientras los otros usan apenas 3 a 4 mil millones.
Rendimiento por tipo de equipo
Glimmer se beneficia mucho del ancho de banda de memoria. Las cifras que reporta Meta dibujan un abanico amplio:
| Equipo | Ancho de banda | Velocidad esperada |
|---|---|---|
| NVIDIA RTX 5090 | 1,8 TB/s | 75 a 233 tok/s |
| MacBook Pro con M5 Max | hasta 614 GB/s | 26,2 a 57,8 tok/s |
| Notebook sin tarjeta dedicada | (memoria de sistema) | 6 a 14 tok/s |
| DGX Spark en Unsloth Studio | (medición propia) | cerca de 12,2 tok/s |
El extremo alto de la RTX 5090 depende de una técnica llamada decodificación especulativa. La aritmética explica bien el resto de la tabla: con 16 GB de pesos en 4 bits, una tarjeta de 1,8 TB/s puede recorrer el modelo completo unas 112 veces por segundo en el límite teórico, y todo lo que aparezca por encima de esa cifra proviene del borrador especulativo.
Como recordatorio rápido, la decodificación especulativa usa un modelo borrador pequeño, en este caso uno modelado a partir del borrador DSpark de DeepSeek, para acelerar la inferencia prediciendo las salidas del modelo grande. Vale la pena notar que el M5 Max entrega cuatro veces el ancho de banda de memoria de un notebook Windows típico de hoy, lo que explica la brecha entre las dos filas del medio.
Los pesos están disponibles para descarga en Hugging Face y a través de plataformas de inferencia local como Ollama y LM Studio.
¿Y qué viene después?
El regreso de Meta a la arena de los pesos abiertos no termina con Glimmer. En una publicación en X el lunes, Alexandr Wang, jefe de Superinteligencia de la compañía, se comprometió a liberar pronto una versión de pesos abiertos de Muse Spark 1.2.
Muse Spark 1.2 es el modelo más capaz de Meta, el primero que compite de forma significativa con OpenAI, Anthropic y Google. Aun así, ese lanzamiento tampoco cerraría la brecha con los modelos chinos: tanto Kimi K3 como Qwen 3.8-Max superan a Spark según el índice de inteligencia de Artificial Analysis. Dicho eso, todavía no se sabe qué tan grande es Spark en realidad. Si el próximo modelo abierto de Meta entrega rendimiento similar con menos pesos, podría terminar siendo más competitivo desde el punto de vista del costo por token.
La lectura para Chile
El dato operativo para quien arma una estación de inferencia local en la región es el umbral de 24 GB. Una tarjeta de 16 GB, que es lo que más circula en el mercado local de segunda mano, obliga a bajar a 3 bits y a resignar precisión; el salto a 24 GB es el que separa una cuantización usable de una degradada. Y como Glimmer activa sus 30 mil millones de parámetros en cada token, a diferencia de los modelos de mezcla de expertos que activan 3 o 4 mil millones, el costo eléctrico por respuesta también es más alto de lo que sugiere su tamaño en disco.
