Los robots militares autónomos ya existen, ya se han usado en combate y ya han tomado decisiones letales sin intervención humana directa. Esto no es ciencia ficción ni prospectiva: es el estado actual de la guerra. Lo que no existe todavía, al menos de forma declarada, es un consenso internacional sobre si eso está bien, si es legal y quién responde cuando una máquina mata a quien no debía.
La conversación pública sobre drones y robots de combate suele quedarse en el plano de la amenaza futura, como si el problema fuera algo que llegará. Mientras tanto, varios ejércitos del mundo llevan años desplegando sistemas que toman decisiones de targeting con distintos grados de autonomía, y la línea entre “asistido por humanos” y “decidido por máquinas” se ha vuelto tan fina que a veces es solo semántica.
¿Qué sistemas autónomos están ya en uso real?
El ejemplo más citado, y también el más incómodo, es el Kargu-2 turco. Este dron fabricado por STM fue señalado en un informe del Panel de Expertos de la ONU de 2021 como el primer sistema autónomo documentado que habría atacado a combatientes en Libia sin intervención humana en el bucle de decisión. La empresa fabricante y Turquía cuestionaron esa interpretación, pero el informe existe y está publicado.
Israel lleva años utilizando el sistema Harpy, un dron que detecta y destruye radares enemigos de forma autónoma una vez lanzado. No necesita confirmación humana para impactar. El ejército israelí lo clasifica como arma autónoma dentro de una categoría acotada (supresión de defensas aéreas), pero el principio es el mismo: la máquina decide cuándo y dónde golpear.
Corea del Sur instaló en la zona desmilitarizada con el Norte el sistema Samsung SGR-A1, una torreta autónoma capaz de detectar, rastrear y disparar sobre objetivos sin que un soldado apriete el gatillo. Oficialmente, el modo de disparo autónomo está desactivado. Pero el sistema tiene esa capacidad, y eso en sí mismo dice mucho sobre hacia dónde apunta el desarrollo tecnológico militar.
Estados Unidos, Rusia y China tienen programas activos de desarrollo de sistemas autónomos letales. El Departamento de Defensa de EE. UU. publicó en 2023 una directiva que exige “juicio humano apropiado” en el uso de fuerza letal, pero los propios analistas señalan que esa formulación es suficientemente ambigua como para cubrir casi cualquier sistema. Esto conecta directamente con cómo los agentes de IA autónomos empiezan a actuar por su cuenta en contextos civiles, un terreno que en el ámbito militar tiene consecuencias incomparablemente más graves.
¿Cómo decide un robot militar quién es el enemigo?
Los sistemas autónomos militares actuales identifican objetivos mediante combinaciones de visión por computador, radar, señales de radiofrecuencia y, en sistemas más avanzados, modelos de aprendizaje automático entrenados para reconocer patrones asociados a amenazas. El problema es que el contexto de un campo de batalla no cabe en un conjunto de entrenamiento.
Los algoritmos de clasificación de objetivos se entrenan con datos históricos, imágenes de armamento, patrones de movimiento y señales de comunicación. Pero los civiles a veces llevan armamento. Los combatientes a veces visten ropa civil. Las milicias irregulares no tienen uniformes. Y ningún modelo de lenguaje o visión artificial ha demostrado hasta ahora ser capaz de hacer esa distinción de forma fiable en condiciones reales de combate, con polvo, oscuridad, camuflaje y engaños deliberados. Algo que, en otro contexto, ya analizamos cuando revisamos qué cosas la inteligencia artificial no podrá hacer nunca.
El ejército estadounidense ha invertido en el programa MAVEN, que usa IA para analizar imágenes de drones y ayudar a identificar objetivos. Google participó en ese proyecto hasta 2018, cuando varios miles de empleados firmaron una carta de protesta y la empresa decidió no renovar el contrato. El proyecto continuó con otros proveedores. Lo que el episodio reveló es que las decisiones sobre armas autónomas se toman en salas de juntas, no solo en despachos militares.
Rusia ha desarrollado el robot terrestre Uran-9, probado en combate en Siria. Los informes oficiales rusos posteriores al despliegue reconocieron fallos técnicos importantes: el sistema tuvo problemas para identificar objetivos a distancias medias y perdió comunicación con los operadores en varias ocasiones. Que una potencia militar reconozca ese nivel de fallo público es inusual, y sugiere que las pruebas en campo real están muy por detrás de los anuncios oficiales.
¿Quién responde legalmente cuando un robot mata a alguien?
El derecho internacional humanitario, los Convenios de Ginebra incluidos, fue escrito asumiendo que detrás de cada decisión letal hay un ser humano que puede rendir cuentas. Cuando la decisión la toma un algoritmo, esa cadena se rompe y nadie ha resuelto todavía cómo reconstruirla.
Hay tres posibles focos de responsabilidad sobre los que los juristas debaten: el soldado que activa el sistema, el oficial que ordena el despliegue, o la empresa que lo diseña. Ninguna de las tres opciones encaja bien en los marcos legales existentes. El soldado puede argumentar que no tomó la decisión. El oficial puede alegar que el sistema funcionó según sus especificaciones. Y la empresa está protegida, en muchos países, por contratos de defensa que limitan su exposición legal.
La Campaña para Detener los Robots Asesinos, una coalición de organizaciones civiles activa desde 2013, lleva más de una década presionando en la ONU para un tratado que prohíba los sistemas autónomos letales. Hasta ahora, las negociaciones en el marco de la Convención sobre Ciertas Armas Convencionales han producido declaraciones de principios pero ningún instrumento vinculante. Las grandes potencias militares, que son las que más tienen que perder de una regulación estricta, son también las que más peso tienen en esas negociaciones.
Esto tiene un paralelo incómodo con lo que ocurre en el ámbito civil, donde la IA toma decisiones con consecuencias reales sobre personas sin que quede claro quién responde cuando se equivoca.
El factor humano que nadie quiere perder, pero que todos están erosionando
Los ejércitos occidentales usan mayoritariamente la expresión “human in the loop” para describir un requisito de supervisión humana antes de ejecutar fuerza letal. El problema es que ese “humano en el bucle” puede ser un operador que tiene tres segundos para confirmar o rechazar una acción que el sistema ya ha decidido. Tres segundos no son supervisión, son aprobación formal de una decisión que ya está tomada.
La velocidad es el argumento militar más fuerte a favor de la autonomía. En un enfrentamiento de drones o en una guerra de sistemas electrónicos, los tiempos de reacción humana son demasiado lentos. Si el adversario usa sistemas que deciden en milisegundos, poner un humano en el bucle es, en la práctica, una desventaja táctica que ningún ejército querrá asumir si el conflicto se vuelve simétrico.
Esa lógica de escalada es exactamente la que preocupa a los investigadores de seguridad internacional. No hace falta que ningún general tome una decisión explícita de “quitar al humano del proceso”. Basta con que los sistemas sean suficientemente rápidos y que la supervisión humana se convierta en un protocolo vacío. Así es como ocurren muchas cosas en tecnología: los algoritmos que más influyen en tu vida tampoco se impusieron por decreto, sino por acumulación gradual de pequeñas decisiones de diseño.
El debate interno en los ejércitos no es binario. Hay militares que argumentan que un sistema autónomo podría ser más preciso que un soldado bajo estrés, agotamiento o sesgo emocional. Hay quien señala que un robot no puede negarse a cumplir una orden ilegal, que es precisamente lo que el derecho internacional espera de un combatiente humano. Y hay quien dice que esa objeción es teórica, porque los soldados humanos tampoco se niegan sistemáticamente a órdenes ilegales.
China ha anunciado públicamente que aspira a liderar el desarrollo de IA militar para 2030. Ese tipo de declaraciones crea una presión competitiva real sobre el resto de potencias, independientemente de lo que piensen sus líderes sobre la ética de los sistemas autónomos. La carrera ya está en marcha, con o sin tratado.
Lo que hacen los modelos que alimentan estos sistemas tiene su propia lógica interna, y entender cómo funciona realmente un modelo de lenguaje grande ayuda a calibrar cuánto dista la IA actual de la capacidad de juicio moral que se le exigiría en un campo de batalla.
Mientras tanto, los ingenieros siguen programando, los generales siguen pidiendo presupuesto y los diplomáticos siguen reuniéndose sin acuerdo. Y en algún lugar, algún sistema está esperando una señal para decidir.
Los datos que generan estos sistemas, los patrones de comportamiento que aprenden y las decisiones que acumulan forman ya un corpus enorme. Vale la pena pensar en cuántos datos se generan cada día solo en el ámbito civil para hacerse una idea de la escala a la que opera el ámbito militar, que nunca publica sus cifras.
¿Llegará un momento en que ningún soldado muera, pero sigan muriendo civiles?
Esa es la pregunta que más incomoda a los analistas de seguridad internacional: si los robots militares autónomos eliminan el coste humano de la guerra para el atacante, ¿baja el umbral para iniciarla? La historia de la tecnología armamentística sugiere que sí. Cada vez que combatir se vuelve más barato en vidas propias, los conflictos se multiplican. Los drones pilotados a distancia ya lo demostraron: EE. UU. multiplicó los ataques en Pakistán, Yemen y Somalia en cuanto los operadores ya no tenían que arriesgar su vida para ejecutarlos.
Si los robots militares autónomos completan esa tendencia, la guerra podría convertirse en algo que los países ricos hacen con máquinas contra países más pobres que las pagan con vidas humanas. El debate técnico sobre autonomía y regulación lleva décadas rezagado respecto al desarrollo real. Y esa brecha, entre lo que los sistemas pueden hacer y lo que la ley permite o prohíbe, es exactamente el espacio donde ocurren los peores errores. Nadie sabe todavía quién va a pagar por ellos.
Preguntas frecuentes
¿Existen ya robots militares autónomos capaces de matar sin intervención humana?
Sí, aunque con matices. Sistemas como el Harpy israelí o el Kargu-2 turco tienen capacidad de atacar objetivos sin confirmación humana en tiempo real. El debate está en si eso constituye “autonomía total” o un nivel intermedio. Lo que está documentado es que la decisión de impactar puede ejecutarse sin que un operador humano la autorice en el momento.
¿Está prohibido por la ley internacional usar robots asesinos autónomos?
No existe ningún tratado internacional vinculante que los prohíba. Las negociaciones en el marco de la ONU llevan más de una década sin producir un instrumento legal con fuerza obligatoria. Algunos países han expresado su apoyo a una prohibición, pero las grandes potencias militares bloquean sistemáticamente cualquier acuerdo que limite su desarrollo.
¿Pueden los robots militares distinguir entre civiles y combatientes?
Con la tecnología actual, no de forma fiable en condiciones reales de combate. Los sistemas existentes se entrenan con patrones reconocibles, como armamento o señales de radio, pero fallan ante situaciones ambiguas. Ningún sistema ha superado pruebas independientes que demuestren capacidad de distinción comparable al juicio humano en entornos complejos.
¿Qué país está más avanzado en el desarrollo de armas autónomas?
Es difícil saberlo con certeza porque los programas militares son secretos. En lo que es público, Israel, Estados Unidos, China, Rusia y Turquía tienen los desarrollos más documentados. China ha declarado abiertamente su objetivo de liderar la IA militar para 2030, lo que da una medida de la escala de sus inversiones.
¿Qué ocurre si un robot militar mata a alguien por error?
El marco legal actual no tiene una respuesta clara. El derecho internacional humanitario asume responsabilidad humana, pero cuando la decisión la toma un algoritmo, la cadena se rompe. El soldado, el oficial y la empresa fabricante pueden eludir la responsabilidad bajo distintos argumentos, y ningún tribunal internacional ha establecido aún jurisprudencia sobre este supuesto concreto.
¿Por qué los países no se ponen de acuerdo para regular los robots militares autónomos?
Porque las potencias con más capacidad tecnológica son las mismas que más tienen que perder con una regulación estricta. Regular el desarrollo propio sin garantía de que el adversario haga lo mismo se percibe como una desventaja estratégica. Es la misma lógica que ha dificultado históricamente los tratados de control de armamento en cualquier tecnología nueva.
