Superar sesgos de la IA requiere más que buenos propósitos
Los proyectos pueden incurrir en discriminaciones de varios tipos
Los sistemas, los algoritmos y los datos son fabricados, modelados y visualizados por personas y, como ellas, arrastran sesgos que deben evitarse en toda empresa que se apoye en la inteligencia artificial (IA).
“La IA está cambiando la manera de ejecutar negocios, dando más certeza operativa y reduciendo considerablemente los tiempos en los procesos de toma de decisiones, generando valor agregado y ventajas competitivas cuando es usada de forma apropiada y libre de sesgos”, advirtió David Quirós, gerente de proyectos de Novacomp y miembro de la comisión de Big Data del Colegio de Profesionales en Informática y Computación.
La aplicación de la IA (y de sus derivaciones aprendizaje de máquina, aprendizaje profundo y procesamiento de lenguaje natural) se aprovechan en varias industrias como banca y tecnofinancieras ( fintech), seguros, salud, energía, minería, telecomunicaciones y manufactura, apoyándose sistemas de manejo de grandes volúmenes de datos e Internet de las cosas (IoT).
En la industria farmacéutica permite desde principios el 2020 avanzar en las investigaciones relacionadas con la COVID-19 y el desarrollo de las vacunas, mientras en el sector agropecuario (utilizando sensores, GPS, drones, robots y maquinaria inteligente) se desarrollan soluciones para decisiones de siembra, manejo de plagas, cosecha y gestión de inventarios.
La industria tecnológica destaca que la IA se puede aplicar en cualquier sector y todo tipo de empresas con aplicaciones que pueden utilizarse a través de la nube. Además, se disminuyen los riesgos de errores sistemáticos en las operaciones rutinarias, se optimizan varidad de procesos en forma simultánea y se customizan servicios gracias al poder de computación.
La IA se aplica en la atención de clientes, ventas, cobro, prevención de fraudes y lavado, soluciones de pago y gestión (contabilidad, finanzas, mercadeo, logística y producción) permitiendo respuestas inmediatas, mejoras de la percepción del servicio, reducción de costos, optimización de procesos, mejoras en el consumo por cliente y aumento del valor en el ciclo de vida de compra.
“Las empresas pueden saber cuál es el momento idóneo para colocar un determinado producto, de forma granular y personalizada y con las mayores probabilidades de éxito”, dijo Carlos Portocarrero, consultor de GBM.
De la promesa a la realidad hay, empero, una brecha. Un reporte de Boston Consulting Group halló que más del 70% de los 3.000 gerentes, de 29 industrias en 112 países consultados, consideran que la IA es una oportunidad. Sin embargo, solamente el 10% de las empresas logran importantes beneficios financieros.
La firma también encontró que la mayoría de las empresas (55%) sobreestima la madurez de sus programas de Inteligencia Artificial Responsable (RAI), que se basa en valores éticos y sociales con un enfoque centrado en el ser humano. Menos de la mitad de las que implementan este tipo de iniciativas afirma tener éxito.
Según IDC para el 2021 se estima que la inversión en IA y otras tecnologías cognitivas alcanzará $50.000 millones a nivel global. Una gran cantidad de las empresas lo hacen para ponerse al día y poder competir contra los rivales que ya se adelantaron.
Pulgas
La IA combina e integra habilidades cognitiva para reconocer, procesar y analizar texto, imágenes, video y datos con el objetivo de encontrar información, aprender, obtener conclusiones, tomar decisiones, automatizar tareas y personalizar servicios. Pero entre las líneas de la promesa se deben detectar las pulgas tecnológicas.
Hace un año un estudio del Instituto Tecnológico de Massachusetts (IMT, por sus siglas en inglés), citado por la revista Science, advirtió que “algunas de las ganancias” de la IA podrían no obtenerse a menos que se realicen mejoras en su arquitectura. La observación llevó casi inmediatamente a varias pruebas en España.
Seis meses después, la consultora española Biko reveló los resultados de su propia investigación donde, al analizar dos imágenes de un hombre y de una mujer sosteniendo un taladro, el algoritmo acertaba en el caso del hombre y confundía el objeto con un secador de pelo cuando revisaba la foto de la mujer.
Las discriminaciones de género, raciales, políticos, culturales, de accesibilidad o religiosos, entre otras, se deben a una configuración parcializada. “Muchos de los proyectos de IA se han catalogado como discriminatorios, sexistas y racistas”, afirmó Ivette Onay, gerente de tecnologías digitales y emergentes de EY.
Los sesgos también podrían derivarse de los datos utilizados y de cómo se construyen los modelos de datos. Portocarrero, de GBM, ejemplificó que si un banco tiene una tendencia a rechazar solicitudes de préstamos o servicios financieros a un grupo etario particular, voluntaria o involuntariamente, eso se reflejaría también al desplegar sus modelos o procesos automatizados.
Hay otros posibles riesgos, como los ocasionados cuando se utiliza el pasado como única fuente veraz para realizar proyecciones o predicciones de escenarios, conductas o tendencias futuras. También, cuando se utilizan datos insuficientes para crear y entrenar el algoritmo.
Parte de los errores se derivan de utilizar la IA cuando la tarea o proceso debió seguir realizándose mediante una persona. En esta misma línea, Quirós y Arturo Delgado, presidente de Central Gate, advirtieron que las empresas deben evitar una dependencia “muy alta” de las máquinas.
Algunos de los inconvenientes se derivan de la gestión del cambio, la falta de optimización de los procesos, la falta de entendimiento sobre las áreas de la organización que pueden ser mejoradas y la desvinculación con los objetivos estratégicos y la alta gerencia.
“Estas herramientas se están convirtiendo en una parte esencial de los negocios en todo el mundo”, advirtió Raúl Frías, líder de arquitectos de soluciones de Amazon Web Services (AWS) en México.
Las empresas deben contar con una estrategia de IA que incluya factores relevantes como el desarrollo, arquitectura, aplicaciones, riesgo, privacidad, seguridad, gobernanza, gestión e implementación del cambio.
“Las empresas no pueden pretender obtener ventajas simplemente por adoptar la tecnología de IA. Deben preocuparse también por adoptar esta tecnología de manera creativa y responsable”, dijo Rebeca Benavides, consultora del área de consumo y mercadeo digital de Deloitte.