Paul Scharre dice que es probable que el avance tecnológico conduzca a un uso más amplio de armas autónomas.Crédito: Greta Lorenz
«Lo último: 8.300 estudiantes asesinados. 12 universidades afectadas», se lee en un teletipo de noticias en la parte inferior de la pantalla. «Las autoridades todavía están luchando por encontrarle sentido a un ataque a campus universitarios en todo el mundo, que tuvo como objetivo a algunos estudiantes y no a otros», dice el presentador de noticias.
Foco en la naturaleza: robótica
Esta escena es de robots de matanzaun cortometraje de ficción realizado por el Future of Life Institute, un grupo con sede en California que ha pedido la prohibición de las armas autónomas habilitadas por inteligencia artificial. En la historia, un ejecutivo de una empresa de armas lanza con orgullo enjambres de pequeños drones que utilizan el reconocimiento facial para detectar y ejecutar a los enemigos de sus clientes entre una multitud. Alerta de spoiler: las cosas no terminan bien para los estudiantes activistas atacados por el sistema de armas debido a sus perfiles políticos en línea.
En el momento del estreno de la película en 2017, Paul Scharre, un exsoldado de infantería de operaciones especiales y vicepresidente ejecutivo del Centro para una Nueva Seguridad Estadounidense, un grupo de expertos en Washington DC, dijo que aunque una robots de matanzaSi este escenario era tecnológicamente factible, existían medidas defensivas contra el tipo de ataque representado.
Scharre, que ayudó a redactar las políticas del gobierno estadounidense sobre armas autónomas y publicó un libro sobre el tema en 2019, teme que la humanidad corra el riesgo de una carrera armamentista que podría conducir a máquinas poco confiables y difíciles de controlar con el poder de decidir cuándo y a quién matar. Naturaleza habló con Scharre sobre cómo la tecnología está permitiendo estos nuevos sistemas de armas.
¿Cómo se definen los sistemas de armas autónomos y qué tan ampliamente se utilizan?
No existe una definición acordada internacionalmente de armas autónomas, lo que puede complicar las discusiones sobre ellas. Las defino como armas que, una vez lanzadas por humanos, pueden buscar, encontrar y atacar objetivos por sí mismas. Desde la década de 1980, muchos países han adquirido sistemas de defensa aérea que pueden rastrear y derribar automáticamente las amenazas entrantes, por ejemplo.
Sin embargo, cuando la gente debate hoy en día sobre las armas autónomas, generalmente se refiere a aquellas utilizadas en combate ofensivo. Un sistema de drones israelí llamado Harpy caza objetivos que emiten señales de radar, como defensas aéreas terrestres diseñadas para detectar aviones y misiles entrantes. Estos sistemas ofensivos están diseñados para usarse en escenarios específicos y no tengo conocimiento de que se hayan usado ampliamente en combate.
En general, los seres humanos todavía están tomando las decisiones finales sobre los objetivos, pero el ritmo del desarrollo tecnológico significa que ciertamente puedo ver un mundo en el que los sistemas de armas ofensivas con mayor autonomía se utilicen ampliamente.
¿Puede darnos un ejemplo de un sistema de vanguardia que se utilice hoy en día?
Ucrania ha estado experimentando con sistemas autónomos de guía de terminales, también llamados solución autónoma de última milla. En este tipo de sistema, los operadores humanos dirigen un dron hacia un vehículo en movimiento o una persona, por ejemplo, y una vez que se ha fijado, incluso si se corta el enlace de comunicaciones con el operador, el dron puede continuar rastreando y luego atacar al objetivo por sí solo. Aunque el ser humano todavía está eligiendo el objetivo, estos sistemas son un posible trampolín hacia armas con mayor autonomía.
¿Cómo ve el desarrollo futuro de estos sistemas?
Además de los sistemas de guía de terminales, también hemos visto cómo se utilizan drones equipados con aprendizaje automático para identificar objetivos en Ucrania. No es un gran salto ver cómo se combinan estas dos tecnologías para permitir que los sistemas busquen y ataquen objetivos sin participación humana.
Los países están invirtiendo en formas de contrarrestar el creciente uso de drones, como interferir sus comunicaciones. Si los drones pueden operar de forma autónoma, entonces las interferencias no son un problema tan grande. Por eso creo que vamos a ver cada vez más autonomía en la guerra.
Una visión del futuro es que los sistemas de armas autónomos tengan la autoridad para atacar objetivos dentro de zonas de destrucción, o rangos de espacio y tiempo, sobre la base de ciertos criterios.
