Ramón López de Mántaras
Los expertos pactan una declaración que exige más control y transparencia
INTELIGENCIA ARTIFICIAL, CSIC
Un grupo constituido por algunos de los más relevantes expertos en inteligencia artificial de Europa han definido las bases para el control y la transparencia en esta materia. De su debate ha surgido la declaración de Barcelona.
La inteligencia artificial (IA) no es ciencia ficción ni una promesa futura. Es una realidad que ya está influenciando nuestras decisiones, nuestra seguridad y nuestros tratamientos médicos. Las máquinas todavía no tienen una inteligencia generalista ni se ha logrado dotarlas de sentido común pero disponen de inteligencias específicas, para tareas muy concretas, que superan la eficiencia de la inteligencia humana. Y eso está suponiendo una ola de adopción entusiasta de la inteligencia artificial en muchas áreas de nuestra vida sin que estén claros los límites éticos y legales de esta tecnología. Así se ha puesto de manifiesto en el debate “Inteligencia artificial: sueños, riesgos y realidad”, una iniciativa de Biocat y la Obra Social La Caixa que durante dos días ha reunido en Barcelona a expertos en inteligencia artificial de todo el mundo y desde la que se ha decidido impulsar un manifiesto que sirva de base para el desarrollo y el uso adecuado de la inteligencia artificial en toda Europa.
Ramon López de Mántaras, director del Instituto de Investigación en Inteligencia Artificial del CSIC e impulsor, junto con el investigador del Instituto de Biología Evolutiva Luc Steels, tanto del debate como del manifiesto, explica que la llamada declaración de Barcelona pretende sensibilizar a la sociedad de los beneficios y los riesgos que implica el desarrollo de la inteligencia artificial y comprometer a quienes la diseñan, la implementan o la utilizan con principios de prudencia, transparencia, responsabilidad y fiabilidad, entre otros.
En su declaración, los expertos no dejan lugar a dudas sobre los beneficios y la importancia que la IA tiene para el futuro de la economía y del funcionamiento de la sociedad europea, y por ello consideran que la Unión Europea debe apostar fuerte por ella, creando una red de laboratorios de alto nivel, proporcionándoles financiación, promoviendo la formación de ingenieros especializados en este ámbito y el desarrollo de plataformas de recursos abiertos para la investigación.
Pero al mismo tiempo reclaman prudencia, la implementación de requisitos muy estrictos tanto a la hora de investigar como de utilizar las aplicaciones de IA para garantizar su fiabilidad y seguridad, tarea que creen que podría desempeñar la Agencia para la Robótica y la IA que quiere crear el Parlamento Europeo. Los especialistas en la materia enfatizan que los sistemas de IA no sólo tienen capacidad para to-
La IA ya es más efectiva que la humana para resolver problemas en áreas específicas
Los chatbots son tan realistas que engañan al usuario y manipulan la opinión pública
mar decisiones en el mundo digital, sino que cuando están incrustados en sistemas físicos –por ejemplo en un coche– tienen el potencial de actuar en el mundo real, por lo que es necesario “tener reglas claras” que restrinjan sus comportamientos y que aclaren quién es responsable de sus fracasos o de sus errores.
Y no menos indispensable es, según los expertos, dotar de transparencia la forma en que las máquinas toman sus decisiones y los datos que manejan de cada persona. “Los sistemas de IA han de rendir cuentas”, enfatiza López de Mántaras, porque están influenciando nuestras decisiones y comportamientos, dado que sistemas basados en datos se usan ya para conceder o no un préstamo, para facilitar o no una póliza de seguro, para seleccionar nuestras compras, condicionar nuestros viajes o incluso nuestras opiniones políticas. Los algoritmos que rigen internet manipulan los resultados de las búsquedas y ofrecen una respuesta a cada usuario en función de su perfil, y esa información que recibe influye en su manera de ver el mundo, de modo que los resultados de las búsquedas –noticias, libros, destinos de viaje...– tienen consecuencias sobre la opinión pública, que cada vez está más fragmentada y polarizada. Y, según los expertos, eso puede ser un peligro para la democracia en un contexto en que la emoción y las creencias tienen más influencia que los hechos objetivos en la toma de decisiones.
Durante la jornada convocada por B·Debate, se evidenció la creciente preocupación por el uso de los chatbots –sistemas de software que simulan conversaciones por internet y en las redes sociales– que manipulan la opinión pública propagando hechos falsos o información maliciosa, o que se usan para conseguir datos sobre la identidad de las personas con quien se contacta. “La IA ha permitido que esos chatbots sean lo suficientemente realistas para que los usuarios confiados no sean capaces de hacer una distinción y sean engañados”, advierten los firmantes del manifiesto. La solución, dicen, podría ser imponer un sistema de marcas de agua que obligue a identificar si quien nos contacta es un ser humano o de un sistema de inteligencia artificial.
Por otra parte, la Declaración de Barcelona advierte que el entusiasmo por la IA no debe hacer olvidar la importancia del conocimiento humano. Los expertos consideran un error pensar que las empresas podrán sustituir a sus empleados por máquinas o softwares inteligentes. “Todos los sistemas de IA dependen críticamente de la inteligencia humana; los sistemas basados en el conocimiento modelan el conocimiento y la perspicacia de la experiencia humana, y los sistemas de IA basados en datos se basan fundamentalmente en datos del comportamiento humano. (...) el conocimiento humano debe continuar siendo enseñado, desarrollado y ejercido”, enfatizan.