Un nuevo libro revela cómo la polémica alianza entre Silicon Valley y el Pentágono ha acelerado el ritmo de la guerra.
En las primeras 24 horas del ataque a Irán, el ejército de EE.UU. golpeó más de 1.000 objetivos, casi el doble de la escala del ataque de "shock and awe" sobre Irak hace más de dos décadas. Esa aceleración fue posible gracias a sistemas de IA que acortan el proceso de selección de objetivos. El más relevante entre ellos es el Maven Smart System.
En su nuevo libro, Project Maven: A Marine Colonel, His Team, and the Dawn of AI Warfare, la periodista Katrina Manson investiga el desarrollo de Maven desde sus inicios en 2017 como experimento de visión computacional aplicada a imágenes de drones. El proyecto generó protestas de empleados en Google, el contratista original, lo que llevó a la empresa a retirarse. Impulsado por el oficial de inteligencia de la Marina Drew Cukor, cuya historia forma el eje del libro, el sistema terminó siendo construido por Palantir e incorpora tecnologías de Microsoft, Amazon, Anthropic y otras empresas. Actualmente en uso en todas las ramas de las fuerzas armadas de EE.UU. y adquirido recientemente por la OTAN, Maven sintetiza imágenes satelitales, radar, redes sociales y docenas de otras fuentes de datos para identificar y ubicar objetivos en el campo de batalla. También acelera lo que se denomina la "cadena de muerte".
Maven combina visión computacional con un sistema de gestión de flujo de trabajo que encuentra objetivos, los empareja con armamento y permite a los operadores avanzar rápidamente por los pasos del ciclo de aprobación. Un proceso que antes tomaba horas ahora se completa en segundos. Un funcionario le dijo a Manson que la tecnología permitió al ejército de EE.UU. pasar de atacar menos de cien objetivos por día a mil y, con la incorporación de LLMs, hasta cinco mil por día.
Uno de los mil objetivos del primer día del ataque a Irán fue una escuela de niñas, con más de 150 muertos, en su mayoría menores. El edificio había formado parte de una base naval iraní, pero figuraba en línea como escuela y los patios de juego eran visibles en imágenes satelitales. Si bien gran parte de la cobertura posterior al ataque se centró en posibles alucinaciones de Claude, el historiador de tecnología Kevin Baker escribió en The Guardian que Maven y la aceleración que habilitó es el punto más relevante para analizar. "Un chatbot no mató a esos niños", escribió. "La gente no actualizó una base de datos, y otra gente construyó un sistema lo suficientemente rápido para que ese fallo resultara letal."
El ritmo de la guerra seguirá acelerándose. Manson descubre programas militares orientados a desarrollar armas totalmente autónomas, incluida una moto acuática cargada de explosivos capaz de seleccionar y destruir objetivos por sí sola.
La entrevista: Maven y el nuevo ritmo de la guerra
Esta entrevista fue condensada y editada para mayor claridad.
El coronel Cukor fue un promotor temprano y decidido de la IA. ¿Puede hablar sobre él y sus motivaciones iniciales?
Era el jefe de campo de Proyecto Maven, el responsable día a día, pero también tenía una visión de largo plazo que nació de su frustración con las pobres herramientas de inteligencia que los operadores militares de EE.UU. usaban en Afganistán. Había esta idea de que el ejército esencialmente peleó esa guerra cuarenta veces seguidas, cada seis meses, porque la información no se traspasaba entre rotaciones. Él quería una herramienta analítica que llevara inteligencia a los operadores en el frente. También tenía esta visión de los "puntos blancos", coordenadas con información de inteligencia integrada desplegadas sobre un mapa. Eso se convirtió en uno de los motores de lo que intentó crear a través de Proyecto Maven.
¿Cómo fue concebido Maven al interior del ejército? ¿Como un sistema de gestión de información e interfaz?
El proyecto Maven empieza en 2017. El proyecto ya existía y tenía financiamiento; era para usar IA contra imágenes satelitales, pero luego fue redirigido a video de drones. El ejército de EE.UU. estaba pensando en cómo desarrollar IA para un eventual conflicto contra China. La idea era que en el futuro la guerra correría más rápido de lo que los humanos podían pensar. La propuesta inicial de Cukor fue aplicar IA al video de drones: en algunos casos lograban analizar apenas el 4% del material recolectado. Querían que la IA ocupara el lugar de los ojos humanos, pero la visión siempre fue más amplia.
El público se enteró de Maven con las protestas en Google en 2018. Un portavoz de Google dijo entonces que la tecnología no sería usada para matar. ¿Era eso cierto?
Mi reporteo muestra que muchos operadores militares estaban motivados por el objetivo de salvar vidas estadounidenses y reducir el daño civil, así que en ese sentido podría decirse que no era "ofensivo". Pero en el sentido más amplio, y muy rápidamente en el sentido real, la selección de objetivos ofensivos con IA sí era la intención. Le pregunté a alguien en el libro si los ataques ofensivos estaban contemplados desde el inicio, y respondió: "Sí, claro, no lo hacemos por gusto. El objetivo de la inteligencia es eliminar objetivos de alto valor."
Cuando el contrato con Google se rompe, Palantir entra al escenario. ¿Cuál fue su rol?
Microsoft y AWS tomaron un rol mucho mayor en producir algoritmos y en el cómputo. En paralelo, Cukor fue a Palantir y preguntó si podían ayudar. Les presentó la idea de los puntos blancos en pantalla, con su visión de diez años sobre cómo el ejército de EE.UU. se iba a transformar. Los algoritmos en ese momento no eran muy buenos y operaban en sistemas inadecuados. Los usuarios no confiaban en la IA y las pantallas eran confusas. Cukor quería una interfaz que agradara al usuario. Palantir, de hecho, no quería hacer una interfaz; no creían que la IA fuera a despegar así y querían procesar datos. Pero Cukor fue persuasivo. Hoy, casi diez años después, el Maven Smart System se convertirá en un "programa de registro" y Palantir es el contratista principal: resultó lucrativo.
Ucrania parece haber sido un punto de inflexión en el desarrollo del sistema. ¿Qué pasó allí?
El equipo de artillería ucraniano se dio cuenta de que la IA podía acelerar sus operaciones. Antes de la invasión rusa, el 18th Airborne Corps estaba en Wiesbaden usando visión computacional del Maven Smart System para mapear posiciones rusas. Los algoritmos fallaron pronto: estaban entrenados en el desierto y no reconocían tanques en la nieve. Recolectaron nuevo material satelital sobre los tanques rusos y lo enviaron de vuelta a EE.UU. para reentrenar los algoritmos rápidamente, y funcionó. EE.UU. comenzó a enviar "puntos de interés" a Ucrania, que los usó para atacar equipos rusos. En el punto más alto, en un día de 2022, EE.UU. pasó 267 puntos de interés a Ucrania.
¿Qué partes del proceso de selección de objetivos se automatizaron para lograr esa aceleración?
El ejército de EE.UU. diría que nada está automatizado aún, porque existe una etapa adicional: la decisión legal de atacar algo. El 18th Airborne Corps tenía humanos en seis pasos clave. Con la llegada de Maven, redujeron la intervención humana a solo dos: la decisión de actuar y la acción en sí. Incluso en la NGA (Agencia Nacional de Inteligencia Geoespacial) se producen informes de inteligencia generados íntegramente por IA, sin que ojos ni manos humanas los toquen.
La otra razón para alcanzar tantos objetivos por día es que el Maven Smart System usa modelos de lenguaje de gran escala. He reportado que utilizan Claude de Anthropic, y me dijeron que ayuda a acelerar los procesos. El propio Centcom reconoció que con ayuda de IA pudieron reducir procesos que antes tomaban días y horas a apenas segundos. El comandante, diría EE.UU., sigue tomando la decisión final. Pero también hablé con eticistas militares que advierten sobre el riesgo de la gamificación de la guerra: que los operadores terminen confiando en los objetivos que aparecen en pantalla sin comprender del todo los datos que los respaldan.
