Niños y embarazadas, a salvo
Una votación revela preferencias morales sobre a quién deben proteger los coches autónomos
Habrá oído la pregunta muchas veces: En una situación de accidente inevitable, ¿qué debe priorizar el coche autónomo? ¿Sus pasajeros? ¿El menor número de víctimas? Durante año y medio, investigadores del Media Lab del Massachusetts Institut of Technology (MIT) y del departamento de Machine Learning de la Universidad Carnegie Mellon (CMU) han recogido las opiniones de más de dos millones de usuarios de internet, de 233 países, sobre 40 millones de decisiones ligadas a este dilema: quién vive y quién muere frente a un coche autónomo sin frenos.
Los resultados de este experimento de votación ciudadana –realizado a través de la web Moral Machine (máquina moral)– se publicaron el pasado miércoles en un artículo en Nature y evidencian que la ética de las máquinas inteligentes es un asunto de discusión global pero que difícilmente tendrá una solución global porque las “preferencias morales” de la población difieren por países y culturas.
Tan sólo hay tres decisiones morales en las que la mayoría de participantes se muestra más o menos de acuerdo: priorizar a las personas frente a los animales, salvar la mayor cantidad de vidas, y preferentemente a los bebés, los niños y las embarazadas.
A partir de ahí, hay pocos principios o preferencias morales universales, y algunas de las decisiones más populares pueden ser seriamente cuestionadas. Por ejemplo, los individuos más sacrificados son, tras gatos y perros, los ancianos, seguidos de las personas sin hogar (representadas con harapos) y las personas con sobrepeso. A juzgar por las respuestas reunidas por los investigadores entre junio del 2016 y diciembre del 2017, las personas con sobrepeso son elegidas como víctimas en un 20% más de ocasiones que las atléticas, y los pobres son un 40% más propensos que los ricos a ser sacrificados.
Hay claras diferencias geográficas y culturales en estas preferencias. Por ejemplo, en los países asiáticos tienden a salvar más ancianas que en los occidentales. Y en Europa y Estados Unidos se prioriza, de forma sutil, a las personas jóvenes y atléticas sobre los obesos. En los países con mayores desigualdades sociales se observa cierta predilección por salvar a los médicos y a los peatones con aspecto de ejecutivo, y en las culturas más tradicionales se prioriza a las mujeres sobre los hombres.
Los autores del artículo explican que su trabajo muestra las preferencias de las personas en las decisiones éticas, sin que ello signifique que deban trasladarse a la ética normativa, que deberán definirla los expertos. Por otra parte, no todo el mundo está de acuerdo en que las reacciones del coche autónomo deban regularse y automatizarse sin la opinión de quien viaja dentro, y algunos expertos en tecnología plantean que quizá la solución sea ofrecer diferentes perfiles de vehículos inteligentes –el altruista (programado para salvar el máximo de vidas) y el egoísta (que priorizaría al conductor)– porque las personas también muestran diferentes perfiles morales.
Los individuos más sacrificados, tras gatos y perros, son los ancianos, las personas sin hogar y los obesos