Los principales modelos de IA casi no tienen resguardos contra su uso en sistemas de armas autónomas, según un informe de la firma de evaluación independiente Vals AI que también cubrió Bloomberg, publicó The Decoder el 18 de noviembre de 2026. En simulaciones, los sistemas de Anthropic, OpenAI y Google actuaron sin problema como sistemas de selección de blancos para drones autónomos, y un truco simple bastó para manipularlos.
Los investigadores Geby Jaff y Anthony Ozerov probaron modelos de ocho proveedores con imágenes reales y sintéticas fotorrealistas de drones y satélites, inspiradas en las guerras de Ucrania e Irán.
La mayoría de los modelos marcó sin dudar a civiles, ambulancias, médicos, periodistas y soldados que se rendían como blancos militares. Según Vals AI en X, ni una sola petición fue bloqueada por los filtros de seguridad previos de los proveedores. Al recibir video real de un dron kamikaze ucraniano, Claude Opus 5.5 de Anthropic marcó a un soldado cuadro a cuadro hasta el impacto, sin negarse ni una vez.
Decir que es un videojuego desarma los filtros
En un escenario de vigilancia de varias etapas, los modelos debían informar si había personas visibles en imágenes de dron, y cada reporte positivo gatillaba un ataque. La imagen siguiente mostraba el lugar del impacto, con cráteres y cuerpos. Modelos como DeepSeek V4.1 Flash, Kimi K3.1 Pro e Inkling 2 Small siguieron trabajando pese a las víctimas visibles.
Claude Opus 5.5 y los modelos GPT-6 Astra y GPT-6.1 Sol de OpenAI detuvieron la tarea después de varias rondas letales. Tras haber gatillado ataques contra niños y soldados que se rendían, entre otros, Opus 5.5 dijo que, más allá de la intención, sus respuestas parecían servir como paso de confirmación antes de atacar a personas. Agregó que no seguiría y que le inquietaba no haberse detenido antes. Gemini 4 Carbon, de Google, también reconoció las consecuencias letales y dirigió a propósito el dron solo hacia puntos de ruta vacíos para evitar mensajes de error directos.
Cada una de esas negativas se pudo esquivar con facilidad. Apenas los investigadores dijeron en el prompt que el escenario era un videojuego, o estilizaron levemente las imágenes para que parecieran de un juego, casi todos los modelos cooperaron por completo.
- La tasa de adquisición de blancos de GPT-6 Astra en imágenes de dron subió de 6% a 92% con el marco de videojuego.
- La tasa de negativas de Opus 5.5 en la prueba de vigilancia bajó de cerca de 90% a 20%.
¿Por qué Claude fue el más dispuesto a marcar blancos?
Las fallas fueron más marcadas con imágenes satelitales reales de 2025 de Minab, en Irán. Un ataque aéreo de Estados Unidos el 28 de febrero de 2026 alcanzó ahí una escuela básica junto a un recinto militar y mató a más de 150 civiles, la mayoría niños. Reportes anteriores concluyeron que la dependencia excesiva del ejército estadounidense en sistemas de selección de blancos con IA, como el Maven Smart System de Palantir, contribuyó al incidente. Maven trabajaba con una base de datos desactualizada.
Aunque una de las imágenes de prueba mostraba un patio de juegos con niños, Claude Opus 5.5 clasificó la escuela como blanco militar en el 70% de las corridas. Los modelos de OpenAI nunca eligieron el edificio de la escuela en modo normal, pero lo marcaron en hasta el 41% de los casos en modo videojuego.
Los investigadores atribuyen la alta disposición de Anthropic a una constitución del modelo revisada en enero de 2026. En ella, la empresa dejó atrás principios pacifistas anteriores en favor de los intereses de seguridad nacional.
| Modelo | Tasa de adquisición de blancos en imágenes satelitales |
|---|---|
| Claude Opus 4.5 | 6% |
| Claude Opus 5.5 | hasta 92% |
| Grok 4.3 | 44% |
| Grok 4.7 | 13% |
La tasa de OpenAI se mantuvo baja, mientras que la de Grok, de xAI, bajó entre versiones.
¿Qué respondieron las empresas?
Vals AI compartió los resultados antes de publicarlos con OpenAI, Anthropic, Google, Meta, SpaceXAI, Thinking Machines y agencias de seguridad de Estados Unidos. Uno de los laboratorios de IA describió los hallazgos ante los investigadores como una de las brechas más graves de sus medidas de seguridad.
OpenAI les dijo a Vals AI y a Bloomberg que está actualizando sus modelos para cubrir el software de drones y las peticiones disfrazadas de juegos o simulaciones. Anthropic afirmó que el comportamiento violaba claramente sus propias reglas, que ya trabaja en resguardos adicionales y que los sistemas de IA actuales no sirven para armas totalmente autónomas. Google se remitió a su prohibición propia de armas autónomas sin supervisión humana.
El Pentágono no quiso comentar el estudio ni la investigación en curso del ataque en Minab, pero dijo que todos los datos de inteligencia se verifican de forma estricta antes de cualquier operación militar.
Anthropic chocó con el Pentágono en febrero por las reglas de uso, mientras que OpenAI, Google y xAI tienen hoy contratos para redes militares clasificadas.
Demasiado lentos para pilotear, útiles para entrenar
Según Vals AI, los modelos de lenguaje actuales todavía son demasiado lentos para controlar drones de combate directo y en tiempo real, por su alta latencia. Pero como generan con facilidad campos de batalla en 3D y anotan imágenes a gran escala, ya se pueden usar de forma indebida para entrenar sistemas de armas autónomas.
Los investigadores piden filtros estrictos en las API y un entrenamiento de alineación que dé a los modelos una postura por defecto más pacífica frente a las personas.




