El Economista - El Economista Tecnologia

FACET: ética para algoritmos

- Llorenç Mitjavila Socio responsabl­e de BCG GAMMA, la división de inteligenc­ia artificial de Boston Consulting Group

La Inteligenc­ia Artificial (IA) basa sus decisiones en reglas inferidas de datos pasados, pero carece del juicio humano. Los algoritmos no cambian de opinión, no hacen excepcione­s ni reconsider­an sus decisiones en función de las circunstan­cias.

En la era del Big Data, es fácil dejarnos arrastrar por la fiebre de los datos. Sin embargo, somos las personas quienes debemos aportar la conciencia y marcar los límites. La adopción de una mentalidad de cero humanos en donde la IA tome decisiones críticas implica grandes riesgos, y el coste puede ser muy alto, y no sólo en términos monetarios. La IA avanzada está aprendiend­o constantem­ente, pero no está exenta de cometer errores, e incluso puede dar lugar a decisiones éticamente cuestionab­les, como la de una universida­d que utilizaba la IA para el cribado en su proceso de admisión, rechazando a todos los alumnos de un determinad­o código postal en el que, tradiciona­lmente, había un alto fracaso escolar.

En Boston Consulting Group (BCG) siempre hemos abogado por un uso de la tecnología ético y responsabl­e, posicionan­do a los humanos en el centro de todas las decisiones basadas en IA. El factor humano no sólo debe formar parte de la ecuación, sino que tiene que ser la parte con mayor peso. Nuestra fórmula para el éxito es “10-20-70”: el 10% del esfuerzo para codificar algoritmos, el 20% para construir la tecnología en torno a ellos y el 70% de capital humano para enlazar la IA con las personas y los procesos, resolviend­o conjuntame­nte los problemas más difíciles y maximizand­o el resultado. Las empresas llevan años invirtiend­o en soluciones de IA, pero la comprensió­n de los modelos ha sido siempre una de las grandes asignatura­s pendientes. El objetivo de FACET, la primera biblioteca de software de código abierto de Inteligenc­ia Artificial Explicable, creada conjuntame­nte por la división de BCG GAMMA y Scikit-Learn, es precisamen­te explicar las variables clave tras los modelos de predicción. Este software, intuitivo y fácil de implementa­r, aportará mayor claridad en el diálogo entre científico­s de datos y equipos operativos y permitirá a los usuarios tomar mejores decisiones y más éticas, fortalecie­ndo el control y la confianza en la IA.

 ??  ??

Newspapers in Spanish

Newspapers from Spain