Apple usa internamente un sistema llamado Minions, una "nube virtual de GPU" formada por Mac que están sin uso, para descongestionar sus cargas de trabajo de IA. Lo describen sus propios investigadores en un paper reciente publicado en arXiv, y lo recogió Tom's Hardware.

El sistema toma trabajos de IA estancados, algunos con colas de más de 10 horas en las GPU de la empresa, y los distribuye entre los Mac conectados a la red. La espera baja a minutos en los mejores casos. Basta una petición en el Slack de la compañía para echarlo a andar, aunque los investigadores registraron una preocupación frecuente entre los equipos, que sus datos corran en equipos ajenos a su grupo.

¿Cómo funciona Minions?

El paper, publicado también en el sitio de Machine Learning Research de Apple, describe tres piezas: un Minion Server, un Minion Executor y un Minion Watchdog. El sistema depende de Apple Silicon y hace un solo tipo de trabajo, inferencia de IA. Atiende dos clases de tareas:

  • Embeddings con modelos transformer de código abierto de Hugging Face.
  • Generación de texto con modelos de lenguaje a través de Ollama, que va instalado en cada Mac participante.

El Minion Server divide cada tarea en subtareas y las guarda en una base de datos PostgreSQL. En cada Mac corre un Minion Executor que pide la siguiente subtarea mediante API REST. No hay un planificador central, porque es un modelo de ejecución "por extracción" (pull-based). El Mac lee los datos de entrada desde Amazon S3, descarga el modelo si le falta, ejecuta la subtarea en su propia GPU y devuelve el resultado a S3.

¿Qué pasa si un Mac se apaga?

El Minion Watchdog detecta las fallas. Sigue los latidos (heartbeats) que cada Mac con trabajo en curso envía cada cinco minutos. Cuando un equipo entra en reposo, se cae de la red, se apaga o su usuario detiene el executor para recuperar la máquina, la subtarea inconclusa vuelve a la cola.

El dueño de cada Mac decide qué trabajos toma primero. Puede preferir los de un equipo o un proyecto con la opción dynamic task binding, o dejar el orden por defecto, en que el primero en llegar es el primero en salir.

Según la lectura de Tom's Hardware, cada Mac corre un modelo completo sobre su parte del trabajo, y el paper no indica que un mismo modelo se reparta entre varios equipos. Correr un modelo entero en la memoria unificada de un solo Mac es lo mismo que hacen los aficionados a OpenClaw en sus laboratorios caseros. La idea de computación voluntaria tampoco es nueva. Recuerda a SETI@home y Folding@home, que repartían pequeños bloques de cálculo entre máquinas ociosas.

Lo que Apple dice ahorrar

Además de acortar las colas de GPU, el paper sostiene que con Minions las peticiones no requieren pedir GPU nuevas, el costo de infraestructura queda en cero y el escalamiento pasa de manual a orgánico. Ese cálculo no incluye la electricidad ni el desgaste del hardware.

La participación es informal. Los miembros de un equipo pueden, por ejemplo, "enviar mensajes de Slack pidiendo a otros que ejecuten temporalmente el Minion Executor y lo apunten a un proyecto o tarea específica". La confidencialidad sigue siendo un problema incluso dentro de la empresa, y Apple intenta acotarla con despliegues por equipo y por organización, cada uno con su propia base de datos y su propio grupo de Mac.

El contexto, cómputo escaso

El paper llega cuando el cómputo es un cuello de botella para las cargas de IA. Apple lo reconoce en su último informe trimestral, de julio, donde dice que "depende del acceso a recursos de cómputo suficientes" en un ecosistema con "oferta limitada, plazos de entrega extendidos y costos crecientes". El riesgo de no poder "asegurar capacidad suficiente", aun con centros de datos propios y nubes de terceros, hace más práctico el enfoque de Minions.

Private Cloud Compute, la parte de servidor de Apple Intelligence que atiende las peticiones más complejas, ahora también corre sobre GPU de Nvidia en Google Cloud, algo que Apple anunció en la WWDC de junio. Eso llegó después de una demanda repentina de Mac para IA local. En abril, el entonces CEO Tim Cook dijo que el suministro de Mac mini y Mac Studio podía tardar meses en ponerse al día. En la llamada de resultados de julio, Apple mencionó además restricciones en nodos avanzados de fabricación y el alza en el costo de la memoria.

Los autores adelantan que el siguiente paso de Minions es el entrenamiento distribuido de modelos. Escriben que si los Mac ociosos de distintas organizaciones, "o potencialmente de la comunidad global", pudieran "federarse de forma segura", formarían un fondo común de GPU. Por ahora, los Mac funcionan solo como capacidad de reserva para IA dentro de Apple.