Ramon López de Mántaras
Ramon López de Mántaras, premio Walker de la Conferencia Internacional de Inteligencia Artificial
DIRECTOR DEL IIIA
El director del Instituto de Investigación en Inteligencia Artificial del CSIC se ha convertido en el primer científico premiado por las tres organizaciones más importantes del mundo en el campo de la inteligencia artificial.
Ramon López de Mántaras recibirá el 22 de agosto en Melbourne (Australia) el premio Donald E. Walker de la Conferencia Conjunta Internacional de Inteligencia Artificial (IJCAI) por “sus contribuciones sustanciales y su servicio continuado al campo de la inteligencia artificial a lo largo de su carrera”. Con ello, se convierte en el primer investigador en ser premiado por las tres organizaciones más importantes del mundo en el campo de la inteligencia artificial (IA), después de los galardones que le otorgaron en el 2011 la Asociación Americana de Inteligencia Artificial y en el 2016 la Asociación Europea de Inteligencia Artificial.
En sus cuarenta años de carrera, ha sido testigo de cómo empezó el campo de la IA, cómo se desarrolló gracias a las ideas de investigadores convencidos de que la IA ayudaría a mejorar el mundo, cómo ha pasado a formar parte de nuestra vida diaria y cómo ahora se está utilizando de un modo que, lejos de mejorar el mundo, acrecienta las desigualdades. “Los que trabajamos desde hace años en inteligencia artificial estamos un poco asustados”, reconoce. “Pero soy optimista, sigo creyendo que la inteligencia artificial tiene un potencial enorme para beneficiar a la humanidad”.
¿Teme que los robots desarrollen una superinteligencia y que sometan a la humanidad? Se habla mucho sobre esto, pero no es algo que me preocupe en absoluto. No hay ningún riesgo de que vaya a ocurrir por ahora.
¿Qué es lo que le asusta entonces?
Que damos demasiado alegremente autonomía absoluta a los algoritmos de inteligencia artificial. Dejamos en manos de algoritmos decisiones como a quién se concede un crédito o un seguro. Creo que es un error. No debemos permitir que las máquinas decidan por nosotros.
¿Ni en los casos en que las máquinas deciden mejor que las personas? Los algoritmos también pueden tomar decisiones incorrectas. La idea de que son objetivos y neutrales es una falacia. Cualquier algoritmo tiene los sesgos de los datos con que se ha entrenado y de las personas que lo han programado. Deje que le dé un ejemplo.
Adelante.
La policía de Nueva York introdujo hace unos años un algoritmo para guiar sus actuaciones. Estaba basado en las acciones previas de la policía. Con ese algoritmo, una persona negra tenía más riesgo de ser detenida y se debía patrullar más en barrios desfavorecidos como el Bronx.
¿El algoritmo era racista?
Digamos que tenía un sesgo racista. Por suerte, alguien se dio cuenta. Cuando se corrigió el algoritmo con datos de lo que había ocurrido después de la detención y no de lo que había hecho la policía antes, es decir, cuando se tuvo en cuenta quién había cometido realmente un delito y quién había sido liberado sin cargos, el sesgo desapareció. Con este precedente, no se puede defender que dejemos en manos de algoritmos, sin cuestionarlos, las decisiones sobre la actuación policial.
Pero el algoritmo se cuestionó y se corrigió.
En este caso sí, aunque en muchas ocasiones no se hace. En la bolsa, por ejemplo.
¿En la bolsa?
Hoy día los algoritmos están desplazando a los brókers. Se están haciendo auténticas fortunas con lo que se llama
[negociación de alta frecuencia], porque los algoritmos toman
high frequency trading en fracciones de segundo decisiones que a un ser humano le cuestan más tiempo. Esto lleva a comportamientos de los mercados que son inexplicables con los modelos económicos tradicionales basados en decisiones humanas tomadas en tiempos de reacción más largos.
¿Habría que regularlo?
Sería mejor, aunque no creo que vaya a ocurrir. Hillary Clinton dijo que lo quería regular. Pero Robert Mercer, una de las personas que más se están enriqueciendo con el
financió muy generosamente la campaña electoral de Trump y ahora es uno de sus principales asesores. Es improbable que Estados Unidos lo regule ahora. Y si no lo hace Estados
high frequency trading, Unidos, es difícil que lo hagan otros países.
¿Estamos entrando en una nueva era del capitalismo de la mano de la inteligencia artificial? Hemos entrado en la era de los datos. Pienso que empresas como Facebook, Google o Amazon tienen demasiado poder. Si tienen datos nuestros y hacen negocio con ellos, creo que deberíamos poder decir algo. Antes, en el campo de la inteligencia artificial, decíamos que el conocimiento era poder. Ahora los datos son poder.
¿Puede aclarar la diferencia?
El conocimiento implica que uno comprende cómo se toma una decisión. Con los datos, el algoritmo llega a una decisión, pero no tenemos acceso al razonamiento que hay detrás. Es una caja negra. Pienso que, si dejamos que un algoritmo tome decisiones que nos afectan de manera importante, entonces deberíamos poder exigir que rinda cuentas e incluso que pase un test ético.
¿Le preocupa que el desarrollo de la inteligencia artificial, al que usted ha contribuido, agrave las desigualdades sociales? Desde luego este riesgo existe, y sí que me preocupa. Es una lástima porque la inteligencia artificial podría resolver muchos problemas importantes.
¿Cómo cuáles?
Por ejemplo, con drones que utilizan la inteligencia artificial para guiarse y volar de manera autóno-
ma, se pueden hacer llegar medicamentos a zonas remotas mal comunicadas. Médicos Sin Fronteras ya lo está aprovechando en algunos lugares de África. La inteligencia artificial también se ha empezado a utilizar para detectar inicios de epidemias. O bien, dado que está muy avanzada en reconocimiento visual, está ayudando a mejorar los diagnósticos médicos basados en técnicas de imagen.
Pero la inteligencia artificial también puede crear nuevos problemas, como la destrucción masiva de puestos de trabajo. Es cierto, es algo que ya está pasando. Pero es posible que se creen nuevos puestos de trabajo que ahora no imaginamos. Piense que alguien tendrá que construir y reparar los robots. Igual que la industria del automóvil crea empleo a gran escala, más allá de las pocas empresas que fabrican coches, la industria de los robots puede dar lugar a una nueva generación
UN RIESGO DEL PROGRESO
EDUCACIÓN, EL MEJOR ANTÍDOTO
de industrias proveedoras.
Pero, si todo se robotiza, ¿habrá trabajo para todo el mundo?
Eso lo veo muy difícil. Ya ahora no hay trabajo para todos. Es posible que en el futuro este problema vaya a más.
¿Es partidario de implantar una renta básica universal para compensar los empleos que recaigan en robots? Si es cierto que se pierden puestos de trabajo que no se recuperan, la renta básica universal puede ser imprescindible para mantener la paz social. Pero debe hacerse bien. Los detractores de la renta básica universal dicen que mucha gente preferirá quedarse en casa que buscar trabajo. Pienso que debe garantizarse que la gente tenga un mínimo para vivir pero se mantengan los incentivos para trabajar.
En estos momentos la inteligencia artificial está controlada por una elite. ¿Cree que podemos recuperar el control de la inteligencia artificial sin un cambio político profundo? No debemos menospreciar el poder de los ciudadanos. Creo que aún estamos a tiempo de corregir esta situación. Pero que lo consigamos o no va a depender de la educación. Debemos formar a ciudadanos con inteligencia crítica para cambiar las cosas. Y no sólo en escuelas e institutos, también en la universidad. En las ingenierías debería prestarse más atención a la formación humanística. En el mundo en que vivimos hoy, la ética debería enseñarse en todas las carreras.
“Me preocupa que la inteligencia artificial agrave las desigualdades sociales” “La ética debería enseñarse en todas las carreras, incluidas las ingenierías”