Delincuentes usan ARTEX, un marco de código abierto para pruebas de penetración con IA, para automatizar ataques contra bancos, gobiernos, empresas de energía, prestadores de salud y otros sectores críticos en todo el mundo. Así lo advirtieron el FBI y Amazon Threat Intelligence en alertas publicadas el viernes 13 de noviembre.

Entre el 3 de octubre y el 5 de noviembre, los sensores señuelo MadPot de Amazon detectaron dos campañas con ARTEX. La primera permitió robar credenciales de IA "a escala industrial" para usar modelos gratis. La segunda generó videos deepfake para engañar las verificaciones de selfi en vivo.

Agentes que roban claves para alimentar más agentes

En la primera campaña, los atacantes usaron agentes de IA para robar claves de API y luego cargaron esas claves en la pasarela de modelos de ARTEX. Con ellas hacían funcionar más agentes dedicados a buscar más claves de acceso a modelos.

"Los agentes validaron identidades a través de los servicios de tokens e identidad de cada proveedor, enumeraron el almacenamiento, evaluaron el alcance de los permisos y fueron tras los servicios administrados de modelos de IA, los almacenes de secretos y parámetros, y las identidades de aplicaciones", escribió CJ Moses, director de seguridad de la información de AWS, en una publicación del blog de la empresa.

Entre los blancos hubo pasarelas y proxies de modelos de lenguaje como One API, New API, Veloera, Sub2API y LiteLLM, y herramientas para construir aplicaciones de IA como Dify, FastGPT, Langflow, RAGFlow, Open WebUI, LobeChat y Ollama. La campaña también usó credenciales de nube robadas para acceder a los modelos.

¿Cómo intentaron engañar la verificación de identidad?

En la segunda campaña, los atacantes usaron ARTEX para crear videos deepfake en tiempo real y burlar los controles de identidad (KYC) de dos casas de cambio de criptomonedas. También falsificaron fotos de documentos para pasar la revisión de identificación.

"Los agentes hicieron ingeniería inversa detallada del protocolo de prueba de vida de un proveedor, documentando el flujo de eventos de detección facial que envía, cómo sigue la posición de la cara durante el control y el sistema de coordenadas que usa para indicarle al usuario hacia dónde moverse", escribió Moses.

Los agentes lograron completar la secuencia de movimientos con la cara a menos de 7 píxeles de la posición pedida. No les sirvió, porque la verificación del lado del servidor del proveedor rechazó el deepfake en todos los intentos.

En otra sesión, los agentes armaron un sistema de video deepfake en tiempo real sobre una sola GPU de consumo, con un modelo abierto de animación facial. El video llegó a 11,5 cuadros por segundo, lo que según Moses está "cerca de lo que espera un control de video en vivo".

Para los documentos, los agentes fabricaron metadatos de cámara sintéticos cuyas dimensiones coincidían con los valores reales dentro del archivo JPEG. Además conservaron las tablas de compresión originales de la cámara, que normalmente se reemplazan cuando se vuelve a guardar una imagen editada.

El objetivo final era robar criptomonedas. La campaña muestra cómo ARTEX corre varias sesiones a la vez, con varios agentes trabajando hacia el mismo resultado.

"Uno buscaba formas de retirar el dinero, otro trabajaba en vaciar los saldos de las cuentas, otro montó el sistema de video deepfake y otro ejecutó la evasión de la verificación", escribió Moses.

Ninguna de las técnicas es nueva. Lo que muestran las dos campañas es cuánto suben la velocidad y la persistencia del atacante cuando trabaja con agentes de IA.

"Los agentes tuvieron éxito donde faltaba higiene básica de seguridad, incluidas credenciales por defecto o escritas en el código, claves olvidadas en el código y en artefactos públicos, interfaces y puntos de inferencia sin autenticación, y software sin parches", agregó Moses. "Hacer bien esos fundamentos sigue siendo la defensa más efectiva".

La alerta del FBI

El FBI insistió en lo mismo en una alerta separada del mismo viernes. "ARTEX reduce de forma significativa el tiempo necesario para encadenar técnicas de ataque, y algunas intrusiones pasan del objetivo inicial al acceso privilegiado en menos de tres horas", dice el documento.

La agencia citó los ataques de agosto contra instituciones financieras de Corea del Sur, en los que se robaron datos personales de unas 67.000 personas. También mencionó una campaña de septiembre con ARTEX contra clientes de ConnectWise Cloud Backup, un ataque a la cadena de suministro que terminó comprometiendo más de 2.250 tenants de Microsoft de sus clientes.

Cuando esos ataques se hicieron públicos, el desarrollador original de ARTEX borró el repositorio de GitHub en octubre. Siguen circulando bifurcaciones, versiones adaptadas a otros idiomas y una versión comercial. Al 4 de noviembre, el servicio de escaneo de internet Censys identificó 1.465 equipos con una consola de ARTEX expuesta. Según el FBI, el total de instalaciones es "probablemente bastante mayor si se incluyen los sistemas detrás de cortafuegos o en redes privadas".

Qué recomienda el FBI

La agencia pidió a todas las organizaciones, en especial a las que tienen aplicaciones expuestas a internet, portales de autoservicio, infraestructura en la nube o sistemas de socios y proveedores, aplicar las medidas de su alerta Flash.

Entre ellas está reducir la superficie de ataque externa, restringiendo los servicios sensibles a redes de confianza, conexiones privadas o rutas de administración dedicadas. También mover las aplicaciones empresariales detrás de políticas de acceso y permisos de confianza cero.