AMD presentó Lemonade 11.5 durante su evento Advancing AI, apenas una semana después de haber lanzado Lemonade 11.0. Se trata de un proyecto de código abierto respaldado por la compañía, orientado a correr modelos de lenguaje directamente en el equipo del usuario.

¿Qué es Lemonade?

El servidor de IA local de Lemonade permite desplegar con facilidad cargas de trabajo de modelos de lenguaje (LLM) sobre NPU Ryzen AI, GPU Radeon y CPU, tanto en Windows como en Linux. La idea es ejecutar la inferencia en el propio dispositivo, sin enviar los datos a la nube. Ese enfoque local aporta tres ventajas concretas frente a las API remotas: privacidad, porque los datos no salen del equipo; costo previsible, al no pagar por millón de tokens procesados; y funcionamiento sin conexión. Es una categoría en la que ya compiten proyectos como Ollama y LM Studio, y donde AMD busca aprovechar las NPU integradas en sus procesadores Ryzen AI para portátiles.

El Lemonade Router, la gran novedad

El cambio más significativo de Lemonade 11.5 es la finalización del Lemonade Router, que dirige automáticamente las consultas hacia el modelo más relevante según políticas definidas, o incluso usando un LLM como enrutador (un modelo pequeño que decide a qué modelo mayor mandar cada solicitud).

El Router permite orientar las peticiones con cuatro tipos de política:

  • Por regla, con condiciones explícitas.
  • Por clasificador, que etiqueta la consulta.
  • Por similitud semántica, comparando el sentido del texto.
  • Con un LLM como enrutador, delegando la decisión en un modelo pequeño.

Las políticas se definen en archivos JSON o se pueden crear desde la interfaz gráfica de Lemonade. Los detalles de estas capacidades del enrutador están disponibles en este commit.

Motor de trabajos y soporte MCP

Lemonade 11.5 suma además un motor de trabajos del lado del servidor que deja a los clientes enviar recetas de varios pasos y gestionarlas a través de la ruta /jobs. Desde ahí, esas recetas de múltiples pasos se pueden pausar, interrumpir, reanudar o eliminar.

La otra incorporación relevante es que el daemon de Lemonade ahora puede actuar como host cliente de MCP (Model Context Protocol) para conectarse a servidores MCP externos por stdio. Con eso, el servidor local queda habilitado para integrar herramientas y fuentes de datos externas dentro de sus flujos de inferencia, un patrón cada vez más habitual en las plataformas de agentes.

Quienes quieran conocer más sobre el lanzamiento de Lemonade 11.5 pueden hacerlo en GitHub.