“Inteligencia” robótica para matar

Robots / dossier / Febrero de 2023

Naief Yehya

 Leer pdf

El 3 de noviembre de 2002, en una desolada carretera de Yemen, un dron estadounidense disparó un misil Hellfire al auto en el que viajaba Qaed Sinan al-Harethi, un comandante de la organización Al Qaeda presuntamente involucrado en el ataque contra el navío USS Cole en el año 2000. Esta ejecución remota impuso un nuevo orden bélico para el siglo XXI, en el que desaparecen las diferencias entre los frentes de combate y las zonas en paz, y cualquier persona, en cualquier lugar, puede ser eliminada arbitrariamente como parte de una “acción preventiva” en la “guerra contra el terrorismo”. Comenzó la era de los asesinatos basados en metadatos, y también en observaciones falibles, inteligencia cuestionable, “análisis de señales” e inferencias dudosas hechas por expertos con inclinaciones racistas.

​ La tecnología digital se utiliza desde hace décadas en conflictos de todo tipo para espiar, vigilar, desinformar y sabotear servicios y sistemas de comunicación de naciones y corporaciones rivales. Sin embargo, la aparición de algoritmos de inteligencia artificial aplicados a sistemas letales ha llevado la guerra a un nivel totalmente diferente al mejorar en muchos casos el alcance, la eficacia, la precisión y la contundencia de ciertas armas. La ONU ha tratado sin éxito de imponer prohibiciones, o por lo menos restricciones, al empleo, producción y desarrollo de sistemas de armas equipadas con IA. Pero la experimentación, fabricación, venta y uso de tecnologías autónomas no han hecho más que acelerarse de forma vertiginosa, especialmente a raíz de la guerra entre Rusia y Ucrania.

Fotograma de la película *Gorgon Stare*, de ©Morgan Skinner, 2016Fotograma de la película Gorgon Stare, de ©Morgan Skinner, 2016

​ Hay quien cree que la historia de la guerra remota inicia con los globos aerostáticos explosivos usados por el Imperio austriaco contra las tropas del Reino de Cerdeña en el siglo XIX, pero en verdad comienza con el dron, un vehículo aéreo no tripulado que puede usarse para espiar al enemigo, así como para tirar bombas o servir como munición dirigida y activada a distancia. Un dron se define como un vehículo terrestre, marítimo o volador que es controlado remota o automáticamente. Su forma más conocida actualmente es la de los Unmanned Aerial Vehicles (UAV, vehículos aéreos no tripulados), que pueden medir unos cuantos centímetros o alcanzar una extensión de alas de más de veinte metros. La palabra drone en inglés se refiere al zumbido grave, monótono y continuo producido por el motor de los UAV, que se ha vuelto emblemático de esta amenaza voladora. Al mismo tiempo, así se denomina al macho de las abejas, que no tiene aguijón, es presa fácil de las abejas hembra y tan solo sirve para inseminar a la reina. Como su contraparte en el reino animal, el dron también es delicado y resulta presa fácil de las defensas terrestres y de aviones cazas. Aunque puede ser usado para hostigar al enemigo, bloquear o intervenir sus sistemas de radio y navegación, destruir infraestructura y blancos en tierra, su función específica es asesinar gente.

​ Durante la Segunda Guerra Mundial, tanto los Aliados como los nazis buscaron innovar en tecnologías de control remoto. Aunque sus experimentos no alcanzaron grandes resultados, sirvieron para la creación de los Vergeltungswaffe V-1 y V-2 —también llamados aviones sin piloto, bombas robot, buzz bombs (bombas zumbadoras) o doodlebugs— que Hi­tler lanzó contra Inglaterra y que mataron a miles de personas sin arriesgar la vida de pilotos o soldados alemanes.

​ Décadas más tarde, en la guerra de Vietnam, Estados Unidos empleó drones de reconocimiento llamados lightning bugs. Sin embargo, su aporte al desarrollo de los combates fue insignificante, por lo que el programa de drones fue eliminado después de ese conflicto. Durante los años noventa, contratistas militares trataron de convencer al Pentágono de considerar el uso de una nueva generación de drones para espiar, señalar blancos con láseres y eventualmente disparar misiles. Los drones comenzaron a utilizarse nuevamente en las Guerras de los Balcanes para localizar tanques ocultos y movimientos de tropas. Pero en general, estos artefactos no seducían a los mandos del Ejército, ya que suscitaban conflictos de intereses entre esta institución y las agencias de inteligencia (como la CIA y la NSA), así como posibles recortes de presupuesto debido al bajo costo de su fabricación con respecto a los aviones convencionales. El principal argumento de los militares contra esas armas era que no tenían utilidad alguna.

©Beverly Ryan, *Steel Meets Flesh*, de la serie *Drone Zone*, 2018©Beverly Ryan, Steel Meets Flesh, de la serie Drone Zone, 2018

​ Todo cambió con los ataques del 11 de septiembre de 2001, que dieron pretexto a Estados Unidos para iniciar otra guerra y establecer un nuevo orden geopolítico. Con la justificación de eliminar a Al Qaeda, Washington emprendió una ambiciosa campaña bélica en el suroeste de Asia, el Medio Oriente y el norte de África. Esta era la oportunidad ideal para emplear aviones no tripulados con la capacidad de buscar sospechosos entre la población y aniquilarlos (sobrevolando por largos periodos de tiempo asentamientos civiles para registrar los patrones de vida e identificar a los habitantes locales). Estados Unidos desplegó en varios países los entonces modernos drones Predator y Reaper de la empresa General Atomics, que ofrecían la ventaja de ser controlados “más allá del horizonte”, es decir, el operador no necesitaba mantener una línea de visión con el dron, sino que podía pilotearlo desde el otro lado del mundo mediante comunicaciones satelitales. Así, un ataque en Kabul podía ser dirigido por operadores desde la caja de un tráiler acondicionado en un suburbio de Nevada: el paradigma extremo del teletrabajo. Matar remotamente en turnos de ocho horas borró para siempre la distinción entre combatientes y civiles al convertir la cacería de seres humanos en una tarea burocrática. La ejecución de personas en función de representaciones en pantalla se convertía en una especie de videojuego sin aparentes consecuencias para quienes disparaban los misiles con joysticks.

​ El dron se volvió un arma de caza que prometía enorme precisión, al punto de ser usada por cuatro administraciones estadounidenses (Bush, Obama, Trump y Biden). No obstante, la realidad es que su eficiencia es cuestionable. Miles de personas han sido asesinadas por control remoto desde los aires, gran parte de ellas civiles víctimas de errores, daños colaterales ignorados por los responsables y sus propios gobiernos. Hasta ahora, la mayoría de esas acciones, llevadas a cabo al margen de la ley internacional e incluso de las reglas elementales de la guerra, han quedado impunes y han dejado destrucción, frustración y enormes deseos de venganza. Semejantes transgresiones también inspiran a grupos criminales y gobiernos (que han interpretado las acciones estadounidenses como una licencia para la imitación) a usar drones mortíferos contra sus enemigos domésticos y extranjeros. El Predator, con su peculiar protuberancia curva en la parte frontal que evoca la cabeza del xenomorfo de Alien (Ridley Scott, 1979), se convirtió en un monstruo que sembraba terror —principalmente entre la población rural— desde la provincia de Kunduz, en Afganistán, hasta Adén, en Yemen. La gente que vive bajo la ominosa sombra de los drones sabe que su vida puede terminar con el impacto de un proyectil Hell­fire capaz de alcanzarla en cualquier lugar y momento por las razones más impredecibles. La “guerra contra el terrorismo” no solamente bombardea a la ciudadanía para desmoralizarla y causar bajas masivas, sino que la convierte en criminal, la caza selectivamente, la aplasta sin pruebas de su supuesta culpabilidad o complicidad y nunca le ofrece la posibilidad de rendirse.

©Beverly Ryan, *Algorithm*, de la serie *Drone Zone*, 2018©Beverly Ryan, Algorithm, de la serie Drone Zone, 2018

​ Los drones se habían empleado en conflictos asimétricos entre Estados y grupos fundamentalistas o insurgentes, pero su uso pasó a una nueva fase con la guerra entre dos países industrializados: Rusia y Ucrania. Este conflicto podría considerarse una guerra mundial debido a que en él intervienen docenas de países, de un lado y del otro, con enormes aportaciones financieras, armamentistas y tecnológicas, así como con boicots comerciales, sanciones diplomáticas y batallones de asesores y milicianos de diversas nacionalidades. Los campos de batalla están poblados por numerosos combatientes equipados con tecnologías de IA.

​ Tras algunos golpes fulminantes —y muy publicitados— de Ucrania con drones Bayrak­tar TB2 de fabricación turca (que pueden despegar, aterrizar y navegar de forma autónoma, aunque dependen de un operador humano para disparar sus bombas guiadas por láser) y Switchblade 300 estadounidenses, Rusia ha respondido lanzando oleadas de drones “kamikaze” de fabricación iraní Shahed-136 (que cuentan con algunas capacidades autónomas). Estos últimos, lentos y con un motor de un pistón que hace un característico ruido de “motoneta”, se suelen lanzar desde camionetas móviles de cinco en cinco. Están diseñados para atacar en grupos y así contrarrestar su vulnerabilidad a ser derribados. Putin comenzó a usar estos drones supuestamente en represalia por la destrucción del puente que conecta a Crimea con Rusia, una vía fundamental para el transporte de tropas, combustible, armas y suministros. Técnicamente, estos dispositivos diseñados para destruir tanques, columnas de vehículos o concentraciones de tropas están más cerca de ser loitering munition (municiones merodeadoras) que drones. No se sabe si la versión que emplea actualmente Rusia está equipada con cámaras, si es controlada remotamente y sobrevuela un área geográfica hasta que detecta un tipo de objetivo contra el que se estrella detonando su carga explosiva o si simplemente está programada para atacar un blanco predeterminado. Las fuerzas ucranianas aseguran que han derribado más de doscientas de estas armas-vehículo.

©Beverly Ryan, *Drone Silhouette*, de la serie *Drone Zone*, 2018©Beverly Ryan, Drone Silhouette, de la serie Drone Zone, 2018

​ De cualquier forma, los Shahed son aparatos de alta eficiencia, baratos (alrededor de 20 mil dólares cada uno) y producidos masivamente con componentes convencionales y partes estándar; por tanto, las restricciones de los bloqueos occidentales no afectan su fabricación. Esto es importante, ya que la mejor tecnología para contrarrestar estos ataques es el sistema antimisiles alemán Iris-T, cuyo costo es de 400 mil dólares. Rusia ha desarrollado, mediante una filial de la empresa armamentista Kalashnikov, drones Lancet que pesan alrededor de doce kilos, son lanzados por catapultas móviles y tienen un alcance de hasta cuarenta kilómetros. Los Lancet han sido empleados en Siria y estaban inicialmente enfocados en la búsqueda, reconocimiento y adquisición de objetivos, pero también funcionan como artefactos suicidas.

​ Estos drones anticipan una de las innovaciones bélicas más amenazantes: el uso de enjambres (que pueden incluir vehículos no tripulados aéreos, marítimos y terrestres, así como tropas, tanques y aviones convencionales), es decir, ataques coordinados para abrumar e incapacitar las defensas enemigas. Este tipo de tecnología ya existe y podemos verla en espectáculos de luces que crean imágenes en el cielo con drones sincronizados. Durante los últimos quince años se han realizado numerosos experimentos con drones actuando como enjambres en sus ataques. En noviembre de 2020 la marina estadounidense lanzó un ataque simulado con mil drones miniatura (la extensión de las alas era de quince centímetros), llamados Close-in Covert Autonomous Disposable Aircraft (CICADA, aeronaves desechables autónomas encubiertas de cercanía), cuyo objetivo era demostrar una capacidad armamentista similar a la de China, que se ha enfocado en crear numerosos niveles de defensa que combinan drones y naves tripuladas. En la medida en que se perfeccionen los algoritmos de IA que permiten la sincronía de los ataques de drones, estas acciones se volverán más apabullantes, desestabilizadoras y comunes.

Fotograma de la película *5000* *Feet Is the Best*. ©Omer Fast, 2011Fotograma de la película 5000 Feet Is the Best. ©Omer Fast, 2011

​ Por el momento, el grado de autonomía que tienen estas tecnología letales está en continuo cambio, y es prácticamente inevitable que en un futuro cercano los sistemas armados y las propias municiones tomen decisiones acerca de la elección de sus blancos. La idea de crear máquinas que puedan matar sin intervención humana resulta aterradora y evoca instantáneamente distopías de ciencia ficción, particularmente la saga de películas de Terminator. Las fantasías apocalípticas donde las máquinas evolucionan hasta tener conciencia y alcanzar la singularidad (ese destello de inteligencia que marcaría el origen de una nueva especie capaz de discernir) deberían prevenirnos de las consecuencias frankensteinianas de estos “avances”, sin embargo, para algunos resulta deseable la idea de delegar en la tecnología la responsabilidad de arrebatar vidas, quizá con la idea de que el elemento humano es el eslabón más falible en la cadena de toma de decisiones para una ejecución.

​ El desarrollo y uso de armas autónomas avanzan vertiginosamente, tanto con fines meramente bélicos como policiales y criminales. La Junta de Supervisores de San Francisco aceptó en noviembre de 2022 que la policía cuente con robots letales para responder a ciertas crisis sin poner en peligro a sus oficiales. Hasta ahora estas máquinas se controlan remotamente, como sucedió en Dallas en 2016, cuando se empleó un robot antiexplosivos para hacer estallar una carga cerca de un francotirador con el fin de eliminarlo. Es de esperar que esto también suceda en México, donde poco a poco se añadirán capacidades de IA a drones y robots para mejorar su rendimiento, navegación, puntería y comunicación, hasta que sean del todo autónomos. Se supone que estos robots policías no estarán equipados para abrir fuego, aunque existen contrapartes militares que disparan ametralladoras, como el TALON, de manera que se puede prever que, eventualmente, disparen contra seres humanos. Numerosos grupos violentos en todo el mundo están invirtiendo en armas inteligentes para atacar y defenderse de sus rivales y de las fuerzas del orden. Así, no es descabellado pensar que la lucha contra el crimen pasará a ser una batalla robotizada.

John Johnston, *Drone Empire Decoration*, 2015. Flickr John Johnston, Drone Empire Decoration, 2015. Flickr

​ La proliferación del uso de armas-vehículos no tripulados semiautónomos responde, en teoría, a un deseo de precisión, de evitar muertes innecesarias, de limitar conflictos al ejecutar exclusivamente a líderes enemigos uno a uno y decapitar altos mandos. Pero esta estrategia de bajo costo que mandatarios como Barack Obama presentaron como el fin de las guerras convencionales, en realidad ha dado lugar a conflictos inacabables, sin líneas ofensivas, y a una situación de inseguridad permanente. Nadie sabe si algún día las máquinas “despertarán” y competirán contra sus creadores por la supremacía planetaria como en la ciencia ficción, pero es claro que pronto tendremos armas presuntamente inteligentes decidiendo, con sus propios algoritmos prejuiciados y equívocos, quién debe morir en nombre de un algoritmo que llamarán justicia.

Imagen de portada: John Johnston, Drone Empire Decoration, 2015. Flickr