‘La era de las armas autónomas’.

El dron israelí Harpy puede estar buscando una señal de radar enemiga en un área amplia. Cuando la encuentra, puede destruir al adversario sin que le concedan permiso. El SGR-A1 puede detectar humanos con sensores infrarrojos, y disparar sin intervención humana.

Estos son dos ejemplos de sistemas autónomos de armamento, también llamados robots asesinos, que pueden atacar objetivos sin un control humano significativo. Estos sistemas presentan uno de los desafíos más urgentes al que nos enfrentamos hoy.

La perspectiva de delegar en la propia máquina decisiones de vida o muerte sin un control humano plantea una serie de preocupaciones morales, legales y de seguridad. Lo deseable es prevenir esta carrera armamentística, aunque es una tarea difícil porque no hay buena forma de probar que haya países desarrollando estas armas. Si se fabrican, las armas autónomas podrían conducir a una guerra sin precedentes. El conflicto armado sería más rápido y a una escala mayor. La mejor manera de afrontar este avance tecnológico es combinar humanos y máquinas, en vez de funcionar por separado.

Paul Scharre indica en su libro ‘Army of None’ [1] que más de treinta naciones ya tienen armas autónomas supervisadas defensivas para situaciones en las que la velocidad de los enfrentamientos es demasiado rápida para que los humanos respondan. Scharre también afirma que Corea del Sur ha desplegado unapistola centinela robótica en la zona desmilitarizada que limita con Corea del Norte; Israel ha utilizado robots terrestres armados para patrullar su frontera con Gaza; Rusia está construyendo un conjunto de robots terrestres armados para la guerra en las llanuras de Europa; y 16 naciones ya tienen drones armados y otra docena o más están persiguiendo abiertamente el desarrollo.

¿Quién es el responsable de las consecuencias del uso de la fuerza?
Si un dron autónomo bombardea a la población civil de un determinado lugar, ¿quién sería el responsable? ¿El robot? ¿Su fabricante? ¿El comandante militar? No existe una legislación internacional que permita determinar quiénes son los responsables del fallo de un sistema autónomo [2].

Con el uso de armas autónomas, la acción final de atacar quedaría en una máquina y no en una persona. Las armas autónomas no pueden sustituir a las personas en un procedimiento legal [3]. Su utilización crearía un vacío legal y dificultaría acceder a la justicia.

El control humano es esencial para garantizar la legalidad del uso de las armas y que pueda rendir cuentas ante el uso de la fuerza.

Vulnerabilidades
Es complicado garantizar que un robot autónomo no falle, porque puede haber muchas combinaciones que podrían llevar a un error: una falla de sensor, un cambio en las condiciones climatológicas y el lanzamiento de material inofensivo por parte del enemigo para impedir que el arma autónoma reconozca el entorno, entre otros [4].

Resulta sencillo también confundir a los algoritmos inspirados en redes neuronales para que vean cosas completamente diferentes a las que vería un humano.

Además, ciberdelincuentes u otros actores externos podrían explotar estas debilidades para comportarse de manera indeseable [5].

REFERENCIAS

[1] Paul Scharre. “Army of None: Autonomous Weapons and the Future of War”.
[2] Vasily Sychev. “La amenaza de los robots asesinos”: https://es.unesco.org/courier/2018-3/amenaza-robots-asesinos

[3] Human Rights Watch. “Robots asesinos: Precedentes para un tratado de prohibición”: https://www.hrw.org/es/news/2020/10/20/robots-asesinos-precedentes-para-un-tratado-de-prohibicion

[4] Wanda Muñoz e Ingrid Sada. “Armas autónomas: Es cuestión de derechos humanos, no de tecnología… Y esto es lo que debes saber”, pp.26: http://sehlac.org/wp-content/uploads/2020/09/FINAL-1009-Armas-Autonomas-es-Cuestion-de-Derechos-Humanos.pdf

[5] Wanda Muñoz e Ingrid Sada. “Armas autónomas: Es cuestión de derechos humanos, no de tecnología… Y esto es lo que debes saber”, pp. 26: http://sehlac.org/wp-content/uploads/2020/09/FINAL-1009-Armas-Autonomas-es-Cuestion-de-Derechos-Humanos.pdf