Un punto de inflexión ocurrió en los campos de batalla de Ucrania en 2024 del que recién hoy estamos teniendo noticia: el uso de drones completamente autónomos para matar humanos. Diez quadcopters autónomos fueron enviados al frente por Ucrania con su modo "Terminator" controlado por IA activado.

"Solo lo lanzamos y sabemos que todo va a estar muerto", dijo el fabricante de drones Alexander Kokhanovskyy a New Scientist en un evento de prensa organizado por la embajada de Ucrania.

Drones piloteados por humanos fueron enviados después a reconocer el área objetivo, y se concluyó que las víctimas de las máquinas incluían "un par de soldados, un camión".

¿Qué tan deliberada fue la decisión?

La entrevista de New Scientist provee la evidencia más contundente hasta ahora de que humanos han sido asesinados a discreción exclusiva de una IA. Esto no fue un accidente de ningún tipo, ni una IA descontrolada: los 10 drones fueron enviados al frente intencionalmente en modo autónomo para buscar e interceptar objetivos.

Significativamente, "No hay conexión con el dron en absoluto, no puedes ver el video, nada... Todo lo que vea será asesinado", explicó Kokhanovskyy.

Así, la toma de decisiones y el juicio humano fueron removidos para lo que en el reporte fuente se caracteriza como una misión de prueba puntual. Que recién estemos sabiendo dos años después quizás refleje la gravedad de activar el modo Terminator de los drones por (quizás) primera vez en una batalla real.

¿Un momento Rubicón para la guerra moderna?

Como apunta la fuente, no existe una prohibición oficial del uso de armas autónomas que pueden matar sin intervención humana. Sin embargo, el año pasado el Secretario General de Naciones Unidas, António Guterres, llamó a trazar esa línea roja. El argumento es que remover el juicio humano de la guerra arriesga los derechos humanos. Más aún, en esta etapa del desarrollo de la tecnología, los sistemas guiados por IA están frecuentemente en los titulares por los errores que cometen.

Curiosamente, Ucrania de hecho tiene una prohibición sobre el targeting autónomo de fase final contra humanos por parte de sus drones. Otros funcionarios en la conferencia de prensa donde habló Kokhanovskyy indicaron que tomadores de decisiones del gobierno estaban en conversaciones con empresas de defensa para flexibilizar las reglas.

Es probable que no sea el primer ni el único país en cruzar el Rubicón y permitir que drones IA causen bajas a soldados enemigos.

¿Qué dicen los académicos?

Académicos que hablaron con New Scientist ofrecieron algunos ángulos interesantes sobre la noticia de los drones con modo Terminator sueltos en el campo de batalla. Uno describió el episodio como inevitable dada la velocidad de adopción de IA en el frente: cuando un bando despliega autonomía, el otro responde con autonomía propia o pierde la ventana táctica.

Por contexto técnico: los quadcopters autónomos actuales corren visión por computador en SoCs como NVIDIA Jetson Orin Nano (USD 499), procesando objetivos en tiempo real con redes YOLO o derivados. La diferencia con un dron FPV piloteado es que la decisión de disparo no requiere link de radio, lo que también los hace inmunes al jamming electromagnético.