La joven corrió para salvarse, pero era demasiado tarde.
El mes pasado, un pequeño dron ruso que parecía un avión a escala descendió del aire en la ciudad de Zaporiyia, en el sureste de Ucrania. Mientras intentaba dirigirse a una gasolinera, se estrelló contra un muro y explotó en una lluvia de metralla, y causó la muerte de Tetiana Bubynets, una estudiante universitaria de 19 años, y de otras dos personas.
Estaban entre los miles de civiles ucranianos que han muerto en ataques aéreos rusos, pero las circunstancias de sus muertes tuvieron un giro. El dron que los mató estaba guiado por un sistema experimental de inteligencia artificial, no por un piloto humano, según expertos en drones, comandantes militares ucranianos y el equipo forense que examinó los restos del ataque mortal y de otros en la ciudad.
El dron fue programado por operadores humanos para dirigirse hacia una gasolinera en particular, pero una vez que estuvo cerca, eligió su objetivo exacto —muy probablemente tanques de propano— por sí solo, basándose en su entrenamiento para reconocer dichos tanques y atacarlos, dijeron los expertos y funcionarios militares.
En la guerra en Ucrania por mucho tiempo se ha seguido de cerca este avance, que presagia un futuro distópico en el que robots asesinos deambulan por los cielos tomando decisiones de vida o muerte que reducen a los objetivos a puntos de datos.
“Este es un riesgo para todo el mundo”, dijo el coronel Serhiy Minaiev, comandante de las defensas aéreas en Zaporiyia. “En unos años, viviremos en una película de Terminator. No es una broma. Las máquinas están tomando decisiones para atacar”.
La tecnología utilizada
El análisis de los escombros de este ataque y de otros en Zaporiyia reveló que los drones tenían minicomputadoras a bordo, vendidas comercialmente por Nvidia (empresa estadounidense), que tomaban las decisiones de selección de objetivos, dijeron los expertos y funcionarios militares. Nvidia produce la mayoría de los chips que impulsan los sistemas de IA más avanzados del mundo.
La presencia de módulos de Nvidia y la falta de antenas en los drones llevaron a los comandantes de defensa aérea ucranianos a suponer que las armas estaban guiadas por un sistema de IA autónomo, lo cual se confirmó en una investigación posterior.
Los sistemas de IA autónomos pueden entrenarse con miles de imágenes para reconocer categorías como “río”, “camión militar” o “persona”. Los drones de autoselección de objetivos usan sus cámaras para cazar estos elementos con mayor precisión de la que puede proporcionar un piloto humano. Sin embargo, los opositores a este tipo de armas argumentan que, sin intervención humana, los drones pueden ser más propensos a cometer errores o violar las leyes de la guerra, como al no distinguir a los civiles inocentes de los combatientes.
El uso de IA de autoselección de objetivos en el ataque a la gasolinera, el 6 de julio, sería el primer caso documentado en el que las muertes de civiles fueron causadas por un dron ruso equipado con dicho sistema, dijo Kateryna Bondar, investigadora sénior en el Centro de IA Wadhwani del Centro de Estudios Estratégicos e Internacionales en Washington. Agregó que el módulo de Nvidia “es la mejor prueba” de que Rusia estaba experimentando con IA autónoma.
Aunque un asesor del presidente Volodímir Zelenski ha escrito en las redes sociales que Rusia estaba probando sistemas de IA de autoselección de objetivos, las víctimas mortales no se habían reportado previamente, ni tampoco los detalles del módulo informático Nvidia Jetson Orin que se utilizó.
Tanto Rusia como Ucrania ya estaban usando la IA en múltiples modelos de drones antes de que surgieran los drones completamente autónomos. En esos modelos anteriores, la IA se usa solo para lo que se conoce como la “última milla”: la etapa final del ataque, después de que un piloto humano a distancia ha seleccionado el objetivo. La IA completamente autónoma elimina a los humanos de la selección final del objetivo.
El chip de Nvidia en el ataque de Zaporiyia no estaba cifrado, dijeron los funcionarios ucranianos, por lo que pudieron ver las imágenes del terreno que se habían subido al módulo, lo que le permitió al dron rastrear puntos de referencia visuales y mantener el rumbo. También pudieron examinar la programación, dijeron, que reveló con qué tipos de objetivos el dron había sido entrenado para reconocer y atacar, como los tanques de propano.
Los modelos de drones anteriores generalmente son piloteados por operadores humanos, a través de transmisiones de radio o cables de fibra óptica, o están preprogramados con coordenadas. A medida que los drones se han apoderado del campo de batalla en Ucrania, sus pilotos se han convertido en objetivos principales.
Un dron autónomo guiado por IA, en cambio, no requiere pilotos humanos y puede ser más preciso que una munición programada para atacar unas coordenadas.
Los funcionarios locales de defensa aérea dicen que Rusia ha estado apuntando a objetivos civiles, como bombas o tanques de propano en gasolineras, al probar drones autónomos en Zaporiyia, además de centros de reclutamiento militar. No está claro por qué se eligieron estos objetivos para las pruebas.
Vadym Kushnikov, experto en drones en el Instituto de Aviación de Járkov en Ucrania, dijo que el dron que mató a los tres civiles era “una herramienta preprogramada y entrenada en realidad virtual para rastrear objetos específicos”.
Mientras que el software tradicional sigue reglas paso a paso escritas por una persona, un sistema de IA deriva sus propias reglas al encontrar regularidades en enormes cantidades de datos, un proceso llamado aprendizaje automático. Eso le permite gestionar situaciones imprevistas. También significa que nadie puede predecir completamente lo que podría hacer.
Los grupos de derechos humanos y el Comité Internacional de la Cruz Roja se oponen vehementemente al uso de armas de IA sin humanos involucrados. Dichos grupos dicen que los sistemas autónomos esencialmente dejan que los robots interpreten el derecho internacional al determinar los objetivos legítimos en la guerra.
Pero algunos expertos argumentan que, en el futuro, de hecho se debería exigir que las armas tengan sistemas de IA. Estas armas son más seguras, según el argumento, porque son capaces de tomar decisiones antes de atacar, aunque no siempre sea de manera perfecta, a diferencia de las bombas aéreas no guiadas o los proyectiles de artillería ordinarios que simplemente caen sin ver lo que van a impactar.
El arma en el ataque mortal volaba en un grupo de aproximadamente media decena de drones, según el gobernador militar regional, el comandante de defensa aérea de la ciudad y un equipo de defensa aérea en servicio ese día. Ninguno emitía señales de radio y tenían otras características asociadas con las pruebas de IA autónoma de Rusia, incluido el ser lanzados en oleadas, dijeron los funcionarios.
La carrera por la autonomía
Aunque algunos de los drones guiados por IA probados por Rusia han detonado al impactar, otros no lo han hecho y han quedado intactos, dijeron los funcionarios ucranianos. Les mostraron restos de dos de esos drones a reporteros de The New York Times. El Times fotografió el módulo informático de Nvidia dentro de los drones y envió las imágenes a la empresa.
Nvidia confirmó que las fotos mostraban una minicomputadora Jetson Orin. Dichos módulos, que cuestan solo unos cientos de dólares, se han encontrado en varios tipos de armas rusas.
En un comunicado, la empresa dijo que la minicomputadora era un producto de nivel de consumo “vendido a estudiantes, desarrolladores y empresas emergentes para una amplia gama de aplicaciones beneficiosas”. Nvidia vende la computadora en muchos países, pero no en Rusia. Sin embargo, está ampliamente disponible a través de revendedores, indicó el comunicado.
Ucrania también ha probado sistemas de IA de autoselección de objetivos. Mykhailo Fedorov, el ministro de Defensa que fue destituido recientemente, dijo en una entrevista con el Times a finales del mes pasado que Ucrania probó un sistema de IA completamente autónomo en la Crimea ocupada por Rusia durante los últimos meses. Fedorov indicó que los dispositivos apuntaban a sitios de almacenamiento de combustible y equipo militar y que no había muerto ningún civil.
Aunque los drones del ataque en Zaporiyia no tenían antenas para enviar de vuelta los datos de las pruebas, las fuerzas rusas a menudo vuelan drones de reconocimiento que pueden grabar los ataques. También se cree que la ciudad alberga a espías rusos que informan sobre las evaluaciones de daños en el campo de batalla.
La ausencia de una antena no probaría por sí sola que un dron fuera de autoselección de objetivos. Podría estar preprogramado para volar una ruta, con algoritmos informáticos como los utilizados durante décadas en los sistemas de piloto automático de las aeronaves. Pero ese dron no necesitaría un chip de Nvidia.
Rusia comenzó los vuelos de prueba de los drones Molniya guiados por IA —un modelo de ala fija de producción masiva— en mayo, y comenzó a probar sistemas de autoselección de objetivos en el V2U, otro dron de ala fija, varios meses antes de eso, dijeron los expertos en defensa aérea de Ucrania. Algunas de las pruebas del V2U fueron solo para la selección de objetivos de la “última milla”.
En entrevistas, algunos vecinos de Zaporiyia, que se encuentra a apenas 14,5 kilómetros del frente, dijeron que la idea de dispositivos que zumban sobre la ciudad y toman sus propias decisiones para matar, les daba escalofríos. Pero las ciudades ucranianas han sido bombardeadas de manera tan intensa durante años que la vida ya había sido transformada por drones menos sofisticados.
Los drones interceptores, piloteados (por ahora) por hombres y mujeres que son héroes locales, son una respuesta a la amenaza de los drones. Las redes antidrones son otra, las cuales cubren unos 380 kilómetros de carreteras dentro y alrededor de Zaporiyia.
Otra medida defensiva es el camuflaje. Las láminas de plástico, por ejemplo, se apoyan en ángulos dispares alrededor de los tanques de propano en las gasolineras, en un intento de engañar a los sistemas de reconocimiento de imágenes por IA.
El 6 de julio
Momentos antes de que el dron explosivo se precipitara hacia la gasolinera el 6 de julio, un grupo de personas se apiñó junto al muro de un edificio de apartamentos cercano por seguridad, luego de haber escuchado ya explosiones mientras los drones llegaban en oleadas.
Oksana Ishenko, una empleada de la gasolinera, estaba junto a Bubynets. “Ella lloraba de miedo”, recordó Ishenko.
Luego, algunos en el grupo comenzaron a gritar: “¡Un avión! ¡Un avión!”, dijo Ishenko. Un dron se dirigía hacia ellos. Bubynets y varios otros salieron corriendo, dispersándose en un estacionamiento. Después de que el dron no lograra rodear el edificio de apartamentos, detonó antes de alcanzar su objetivo.
Bubynets, quien había estado estudiando Contabilidad en la Universidad Nacional de Zaporiyia, yacía en el pavimento, inmóvil, mientras le salía sangre de la nariz. Fue declarada muerta en un hospital, dijo Tetiana Melikhova, una de sus profesoras. Los otros dos fallecidos, Oleksiy Svirin, de 41 años, y Roman Karpiy, de 48, murieron más tarde a causa de sus heridas.
“Están entrenando la tecnología”, dijo el coronel Minaiev, comandante de defensa aérea de la ciudad, sobre los rusos. La IA es buena pero aún no es perfecta, agregó. “Están buscando los errores y los solucionarán”.
Por: Andrew E. Kramer/The New York Times
, situado en el área de extensiones del navegador (en la esquina superior derecha de la pantalla). Es posible que veas un pequeño número cubriendo parte del icono.
, situado en el área de extensiones del navegador (en la esquina superior derecha de la pantalla). Es posible que veas un pequeño número cubriendo parte del icono.
de modo que se deslice hacia la izquierda.
, situado en el área de extensiones del navegador (en la esquina superior derecha de la pantalla). Es posible que veas un pequeño número cubriendo parte del icono.
. Se pondrá en gris, lo que indica que ya no se bloquearán los anuncios de ese sitio web.
.