Tres retos de la IA
Deberíamos poder controlar nuestros datos personales, en lugar de dejarlos en manos de grandes corporaciones
La inteligencia artificial (IA) está cada vez más presente en nuestras vidas. Las aplicaciones basadas en IA son tan poderosas que de hecho están cambiando la sociedad, influyendo en nuestras decisiones.
Privacidad. Actualmente los algoritmos en los que se basan los motores de búsqueda en internet, los sistemas de recomendación y los asistentes personales de nuestros teléfonos móviles, conocen bastante bien lo que hacemos, nuestras preferencias y nuestros gustos e incluso pueden llegar a inferir lo que pensamos y cómo nos sentimos.
El acceso a cantidades masivas de datos, que voluntariamente generamos, es fundamental para que esto sea posible ya que mediante el análisis de estos datos provenientes de fuentes diversas es posible encontrar relaciones y patrones que serían imposibles de detectar sin las técnicas de IA. Todo ello resulta en una pérdida alarmante de privacidad. Para evitarlo deberíamos tener derecho a poseer una copia de todos los datos personales que generamos, controlar su uso y decidir a quién permitimos el acceso a los mismos y bajo qué condiciones, en lugar de que estén en manos de grandes corporaciones.
Dilemas éticos. La IA está basada en programación compleja, y por lo tanto, necesariamente cometerá errores. Pero incluso suponiendo que fuera posible desarrollar software completamente fiable, hay dilemas éticos que los desarrolladores de software deberán tener en cuenta a la hora de diseñarlo. Por ejemplo, un vehículo autónomo podría decidir atropellar a un peatón para evitar una colisión que podría causar daños a sus ocupantes. Equipar a las empresas con sistemas avanzados de IA para hacer la gestión y la producción más eficientes requerirá menos empleados humanos y por consiguiente generará más desempleo. Estos dilemas éticos hacen que muchos expertos en IA señalen la necesidad de regular su desarrollo.
En algunos casos se debería incluso prohibir el uso de la IA. Un ejemplo claro son las armas autónomas. Los tres principios básicos que rigen los conflictos armados –discriminación (la necesidad de discernir entre combatientes y civiles o entre un combatiente rindiéndose y uno en disposición de atacar), proporcionalidad (hasta qué punto son aceptables los daños colaterales) y precaución (minimización del número de víctimas)– son extraordinariamente difíciles evaluar, y por consiguiente casi imposibles de cumplir por los sistemas de IA que controlan las armas autónomas. Pero incluso en el caso en que a muy largo plazo las máquinas tuvieran estas capacidades, sería indigno delegar en una máquina la decisión de matar ya que, por muy inteligentes que lleguen a ser las futuras inteligencias artificiales, siempre serán distintas y, por lo tanto, ajenas a los valores y necesidades humanas.
Educación de los ciudadanos. Pero, además de regular, es imprescindible educar a los ciudadanos sobre los riesgos de las tecnologías inteligentes, dotándoles de las competencias necesarias para controlarla en lugar de ser controlados por ella. Necesitamos futuros ciudadanos mucho más informados, con más capacidad para evaluar los riesgos tecnológicos, más sentido crítico y capaces de hacer valer sus derechos. Este proceso de formación debe empezar en la escuelas y tener continuación en la universidad. En particular, es necesario que los estudiantes de ciencia e ingeniería, reciban una formación ética que les permita comprender mejor las implicaciones sociales de las tecnologías que van a desarrollar.
Otro mecanismo necesario para alertar e informar a la ciudadanía es llevar a cabo debates como el titulado Inteligencia Artificial:
Sueños, Riesgos y Realidad, celebrado los días 7 y 8 de Marzo en CosmoCaixa, y organizado por Biocat y la Obra Social La Caixa.
Sólo si invertimos en educación y proporcionamos información de calidad conseguiremos una sociedad que pueda aprovechar las ventajas de las tecnologías inteligentes minimizando sus riesgos.