Cada usuario de Muse, el agente de IA de Meta, trabaja dentro de una máquina virtual con dos núcleos dedicados y 8 GB de memoria, montada sobre servidores con procesadores AMD EPYC Turin. Lo encontraron el bloguero Evan Hoffman y el analista Tae Kim, que le pidieron al agente ejecutar comandos básicos de Ubuntu y devolver el resultado, informó Tom's Hardware.
Hay un hallazgo más delicado. Muse parece capaz de ejecutar comandos que podrían ser inseguros, y según Hoffman el agente le ofreció configurar SSH hacia su máquina virtual privada.
¿En qué hardware corre Muse?
Kim y Hoffman le preguntaron a Muse por las especificaciones de la máquina virtual. En los dos casos el agente respondió que corre sobre CPU AMD EPYC 9D25, un chip Turin de alta densidad con hasta 128 núcleos. Las máquinas virtuales usan Ubuntu 24.04 con el kernel Linux 7.0.
Los servidores que alojan a Muse no tienen GPU. Según lo que reveló el propio agente, Meta usa servidores de GPU separados para la inferencia y deja al agente encerrado en entornos aislados que solo tienen CPU.
¿Cuántos servidores harían falta?
El agente indica que cada usuario recibe su propio entorno aislado y persistente, y con eso Tom's Hardware estimó cuántas personas caben en una bandeja de servidor. Supuso un sistema de dos sockets con hasta 512 vCPU y 2 TB de memoria, que alcanzaría para 256 usuarios de Muse.
Según reportes de hace unos días, Muse ya pasó los 500.000 usuarios activos diarios. Con esa cifra, la cuenta da alrededor de 2.000 bandejas de servidor con dos EPYC 9D25 y 2 TB de memoria cada una.
El propio medio advierte que es una cuenta gruesa y que no hay que tomarla como definitiva. Meta podría tener desplegados servidores solo con CPU que usen chips distintos para Muse, y la configuración puede tener un costo adicional que la estimación no considera. Los chips Turin, por ejemplo, admiten hasta 6 TB de memoria con módulos DIMM de alta densidad.
Aun así, los servidores EPYC parecen populares para este uso por su densidad de núcleos. Un entorno de dos núcleos por persona suma rápido cuando se multiplica por cientos de miles de usuarios, o por millones.
¿Qué tan cerrado está el entorno?
Muse no está completamente abierto. Hoffman mostró un ejemplo en que un comando falló por falta de permisos cuando el agente intentó consultar el búfer del kernel. Lo más probable es que los comandos sudo, los de administrador, también estén bloqueados.
Aun así, podría haber vacíos de seguridad. Hoffman publicó el 25 de septiembre un mensaje sobre el tema.
"Siento que definitivamente podría abrir un túnel SSH inverso hacia el contenedor de mi Muse. Ya me ofreció conectarse por SSH a mi máquina virtual privada y dijo que tengo que agregar su llave pública. Alguien bueno para hackear podría darse un festín", escribió Hoffman.
En un túnel SSH inverso es la máquina de destino la que inicia la conexión, y eso permite saltarse el firewall. Por esa vía, un atacante podría ejecutar comandos más dañinos. Según Tom's Hardware, eso todavía no ha ocurrido.
Muse está disponible como aplicación para Android, iOS y macOS. En otras plataformas se usa desde el navegador con una cuenta de Meta.
