GitHub lanzó el 28 de octubre, en vista previa experimental, el enrutamiento inteligente hacia modelos locales. Desde ahora, GitHub Copilot Fusion puede elegir entre modelos compatibles que corren en el propio equipo y modelos en la nube, en GitHub Copilot CLI, en la app de GitHub Copilot y en Visual Studio Code. La función es opcional y permite usar el cómputo del dispositivo sin cambiar de modelo a mano en cada solicitud. GitHub había adelantado la idea en su anuncio original del 7 de octubre.
En equipos Windows compatibles se puede descargar y configurar MAI Code 1.1 Flash a través del proveedor Windows ML.
¿Cómo se activa en cada herramienta?
- En Copilot CLI, hay que activar el modo experimental y abrir
/modelpara seguir las instrucciones de configuración. - En la app de Copilot, se configura el proveedor Windows ML en Settings > Model providers, se activa Local model auto routing en Settings > Experiments y se abre una sesión nueva. La opción Windows ML local models viene activada por defecto en Windows.
- En VS Code, hay que activar
chat.copilot.localModel.enabled.
Cuando el modelo está listo, se elige el modo Standard en Copilot Fusion para que Copilot decida entre el modelo local y los de la nube. También se puede seleccionar el modelo local directamente para toda la sesión.
¿Funciona fuera de Windows?
La descarga administrada solo existe en Windows. El enrutamiento local de Copilot Fusion en Copilot CLI funciona además con modelos configurados a mano en Windows, macOS y Linux.
En ese caso se puede usar MAI Code 1.1 Flash o Qwen3.8 Flash Next a través de un servidor local compatible con la API de OpenAI. El usuario administra la descarga del modelo y el motor de inferencia, y el equipo tiene que tener recursos suficientes para correrlo. El modelo se configura como proveedor local compatible, se activa el enrutamiento local experimental y se elige Standard en Copilot Fusion para que Copilot reparta el trabajo entre los modelos locales y de nube que califiquen.
La función se apoya en las mejoras recientes para descubrir modelos locales en Copilot CLI. Agregar o descubrir un modelo con la configuración de clave propia (BYOK, por bring your own key) no lo vuelve elegible de forma automática para Copilot Fusion.
La app de Copilot también permite conectar y elegir de forma directa modelos locales compatibles mediante BYOK. Su enrutamiento inteligente, eso sí, hoy solo admite los modelos administrados de Windows ML.
Lo que el modo local no cambia
La inferencia local no deja la sesión sin conexión. Copilot Fusion sigue tomando las decisiones de enrutamiento en la nube, y los modelos locales pueden tener protecciones de seguridad distintas de las que traen los modelos de nube que entrega Copilot.
Las instrucciones de configuración están en las guías Adding LLM models to GitHub Copilot CLI y Adding LLM models to the GitHub Copilot app. El comportamiento del enrutamiento se explica en la documentación sobre selección automática de modelos locales.
