IA en manos de humanos sin humanidad
Una investigación de la revista israelí +972, en colaboración con la web de noticias Local Call, basada en el testimonio de seis oficiales de inteligencia con responsabilidades en la selección de objetivos en la actual guerra en Gaza, ha revelado la utilización por el ejército israelí de Lavender, un software basado en inteligencia artificial (IA). Lavender se utiliza para identificar miembros de Hamas y de la Yihad Islámica e incluirlos en una lista de potenciales objetivos para ser atacados con bombas, incluidos objetivos de bajo perfil.
Estas mismas fuentes confirman a + 972 que Lavender tuvo una importancia primordial en los estadios iniciales de la guerra; su influencia en las operaciones militares llegó a un nivel tal que la selección de objetivos de Lavender fue tratada como si fuera “una decisión humana”, es decir, que el ejército dio una aprobación amplia para que los oficiales adoptaran las listas de objetivos elaboradas por Lavender, sin ningún requisito de comprobar a fondo por qué la máquina seleccionó los objetivos o examinar los datos de inteligencia en bruto en que se basaban. De hecho, según una de las fuentes, la única comprobación que hacía un operador humano era asegurarse de que el objetivo seleccionado fuera un hombre y para hacerlo solo disponía de un máximo de 20 segundos antes de autorizar el ataque. Esta “comprobación rutinaria” se hacía porque, según los desarrolladores de Lavender, este software tiene una tasa de acierto nominal del 90%, lo que quiere decir que una de cada diez veces identifica objetivos que no tienen nada que ver ni con Hamas ni con la Yihad Islámica. Para añadir más horror al horror, las fuentes confirman que otra variable a la hora de atacar un objetivo es la de coste/beneficio: si se trata de un perfil alto de Hamas o la Yihad Islámica, se ataca con un misil guiado –también llamado “inteligente”–, que supuestamente provoca menos daños colaterales, mientras que si se trata de alguien con perfil bajo, el misil no es guiado, sino “tonto” ( dumb) –en el argot militar–, que, al ser mucho menos preciso, provoca más daños colaterales. “No hay que malgastar bombas caras con personas sin importancia; es muy caro para el país y hay escasez [de estas bombas]”, dijo a +972 uno de los oficiales de inteligencia.
Los daños colaterales tienen en cuenta la proporción estimada de víctimas civiles por cada uno de los objetivos seleccionados. Esta proporción ha ido variando según el estadio de la guerra y ha llegado a permitir 100 víctimas civiles por cada alto mando objetivo y hasta 20 en el caso de objetivos de tropa (es decir, de bajo perfil). En este sentido, un oficial de inteligencia israelí anónimo afirma: “No nos interesaba matar los objetivos solo cuando estaban en un edificio militar o se dedicaban a una actividad militar. Al contrario, las Fuerzas de Defensa de Israel bombardearon las casas donde vivían sin dudarlo, como primera opción, y preferentemente de noche, porque era más probable que estuvieran en casa. Es mucho más fácil bombardear casas y el sistema está creado para buscarlos en estas situaciones”. Para seguir los objetivos hasta casa también se usan sistemas automatizados, uno de ellos lleva el terrible nombre de Where’s Daddy? (‘¿Dónde está papi?’).
No podemos decir que no estuviéramos avisados. El año 2016, investigadores en IA, premios Nobel y otros miembros destacados de la comunidad científica firmamos una carta en que advertíamos de los riesgos de utilizar la IA en el ámbito militar. Uno de los riesgos principales es el porcentaje de falsos positivos, es decir, la selección de objetivos civiles inocentes. Durante las primeras semanas de la guerra, el ejército confió casi completamente en Lavender, y este software identificó hasta 37.000 palestinos como objetivos para posibles ataques. Si el 10% de error de Lavender es acertado, podemos estimar que incluyó unos 4.000 civiles en la lista de objetivos. Desgraciadamente, lo que estamos viendo nos demuestra que la preocupación de los firmantes de la carta, en que se advertía de los riesgos del uso de la IA con finalidades militares, era legítima: la investigación de +972 demuestra que se han cumplido los peores presagios.
El año 2021, un autor con el enigmático nombre de Brigadier General Y.S. ya hablaba, sin nombrarlo, de un sistema similar al Lavender en su libro El equipo humano-máquina: como crear una sinergia entre la inteligencia humana y la artificial que revolucionará nuestro mundo. Aunque puede parecer muy genérico, el libro habla de cómo la aplicación de la IA en la guerra puede llegar a resolver los problemas de selección de objetivos y el cuello de botella que representa su aprobación. La investigación de +972 ha revelado también que Brigadier Y.S. es el actual comandante de la unidad de élite de inteligencia 8200 del ejército israelí. Brigadier General Y.S. dice en su libro: “Una máquina puede utilizar grandes datos para generar información mejor que los humanos. Sin embargo, una máquina no puede entender el contexto, no tiene sentimientos ni ética y no puede pensar fuera de la caja. Por lo tanto, en lugar de priorizar entre humanos y máquinas, tendríamos que crear el equipo humano-máquina, que combinará la inteligencia humana y la inteligencia artificial y creará una supercognición”. El problema en este caso es que, en Israel, el equipo de personas que han decidido diseñar, programar y aplicar Lavender son humanos sin humanidad.
El ejército israelí utiliza la IA para identificar objetivos sin comprobarlos a fondo