La columna de ISA Sección Española | El sesgo en la IA y el alma del creador, por Alejandro Beivide, Director de Trasformación Digital y Sistemas de CONTROL-ACCIONA Agua. Miembro del Grupo Industria Conectada 4.0 en ISA Sección Española
El sesgo en la IA y el alma del creador
“El alma del creador siempre estará presente en sus desarrollos porque de manera implícita es parte de su creación”
➜ Hoy en día podríamos pensar que nuestra identidad digital se compone de un conjunto de datos e informaciones que nos hacen existir en el mundo digital. Pero, ¿qué pasaría si no existiéramos como personas-digitales, o peor, que la tecnología nos sesgara como seres digitales? Puede pasar y, podemos quedar fuera de una decisión, de una identificación o de una valoración, simplemente porque exista sesgo en el método de selección o en la muestra de datos. Muchas de las técnicas que se utilizan hoy en día en los sistemas de inteligencia artificial o los sistemas de machine learning tienen un elemento común, son vulnerables al alma del creador. Poseen subjetividad humana en la manera de usar los algoritmos y los métodos numéricos de resolución de problemas. La mente cognitiva del ser humano aplica por su naturaleza inherente un sesgo implícito. Si bien nuestro cerebro tiene un enfoque ético y de razonamiento abstracto, la capacidad inherente de identificación de patrones para la mente humana se basa en la experiencia y la capacidad relacional. Es por esta causa por la que, si no lo hemos vivido, sentido, imaginado o no lo podemos relacionar… simplemente, no existe. Podríamos decir que existe una relación clara con los sistemas de inteligencia artificial y las técnicas de cognitivas. Se alimentan de datos y patrones relacionales por lo que, si en los datos de entrada, se encuentran sesgos, la capacidad cognitiva los incluirá en sus procesos. Estas técnicas se basan en el uso e interpretación de los datos. Es obvio, que en este modelo de aprendizaje cabe sesgo en la muestra de datos de entrada, la clasificación y validación. Así se crea uno de los sesgos más importantes y a los que son vulnerables los sistemas de Inteligencia Artificial, la ausencia de una muestra “completa” para el grupo de aprendizaje. Hoy en día existen sesgos importantes en los sistemas de reconocimiento facial y vocal. Esto no es más que un ejemplo sencillo, pero puede darnos una idea de lo importante que puede ser que el sesgo haga que un sistema de reconocimiento facial o vocal nos identifique de manera errónea o que simplemente no nos identifique. Podríamos ser sesgados como un individuo digital, y eso en el futuro cercano, sí que puede llegar a tener repercusiones. Tenemos múltiples tipos de sesgos, y sin entrar en detalle ni clasificarlos pueden ser; raciales, de género, geográficos, edad, de medición, de muestra, de clasificación, de
estereotipo, de confirmación, de distribución, de supervivencia, de automatización, social, interacción y muchos más que hacen que estos sistemas tan importantes para nosotros hoy en día sean vulnerables a la definición de sesgo. Sin ánimo de crear un debate y con la intención de reflejar un hecho, Bixby, Siri, Alexa, Cortana, son asistentes vocales que conviven con nosotros en nuestros dispositivos más usuales y tienen nombres y una voz femeninos por defecto no voy a dar razones, lo dejo para la intuición e interpretación del lector. Quizás de manera muy clara estaba presente el alma del creador cuando los diseño. El sesgo en la inteligencia artificial y en muchos de los datos que se manejan es un problema detectado, pero en el que los desarrolladores ya están trabajando para que se mejoren los modelos y sistemas día a día. Si no queremos acabar sesgados en el mundo digital habrá que luchar de manera activa contra nuestro propio sesgo inherente a la condición humana. El sesgo y su identificación es una medida ética a desarrollar y solventar para que pueda convivir el ser humano con el transhumanismo detrás de la tecnología, o acaso ¿nos gustaría ser sesgados?
“Podremos trabajar en técnicas y acciones concretas para eliminar el sesgo en las decisiones automáticas, pero es un proceso largo, complejo y que necesita de la ética de la sociedad para que sea posible”