¿Somos esclavos de algoritmos?
Un ingeniero uruguayo estudia cómo la inteligencia artificial controla el gusto musical
Un algoritmo es una secuencia de pasos finitos bien definidos que permiten solucionar un problema. En esa definición entra desde cepillarse los dientes, un manual de armado de un mueble o lo que hace Netflix cada vez que nos recomienda una serie.
A Andrés Ferraro (34 años), ingeniero de sistemas, siempre le interesó el impacto que tenían los algoritmos en las personas, sobre todo en lo que a música refiere. Es así que tanto la maestría que cursó tras recibirse en la ORT, como el doctorado que hizo en Barcelona y el actual posdoctorado que está desarrollando en Canadá tienen que ver con temas musicales.
La maestría, que realizó en la Universidad de la República con Guillermo Moncecchi y Pablo Cancela como supervisores, apeló al estudio de los algoritmos para deducir el año de composición de un tango o el artista que lo interpretó a partir de las letras de las canciones.
Culminado este trabajo, del que el ingeniero tiene muy buenos recuerdos, volvió a Barcelona, ciudad en la que ya había estado luego de trabajar un tiempo en la industria del software en Uruguay. En este segundo viaje la idea era hacer un doctorado en el Music Technology Group del Departamento de Tecnologías de la Información y la Comunicación de la Universitat Pompeu Fabra, uno de los más grandes que hay enfocado en música y tecnología.
“Mi tesis de doctorado se basaba en sistemas de recomendación de música y cómo los algoritmos pueden tener un impacto en la personas. Lo que me interesaba era ver cómo estaban afectando los algoritmos a los artistas y cómo podían ser más beneficiosos en el futuro”, contó Ferraro en diálogo telefónico desde Montreal (Canadá).
Fue así que primero se contactó con artistas de distintas partes del mundo, entre ellos varios de Uruguay. Una de las cosas que encontró fue que notaban que hacía falta un mayor balance en cuanto al género de lo que promovían las plataformas musicales.
“Me pareció súper interesante y lo comencé a estudiar a partir de métodos cuantitativos. Eso quiere decir tomar un conjunto de datos de lo que escuchan las personas, analizarlo, entrenar un sistema de recomendación sobre estos datos y ver qué recomendación se le estaría dando a esos usuarios”, detalló Ferraro.
Dentro de los dos conjuntos estudiados los investigadores detectaron que alrededor de un 25% de lo que los usuarios escucharon correspondía a canciones interpretadas por mujeres y el resto a artistas hombres.
“Para escuchar la primera canción de una mujer el usuario tendría que primero escuchar seis o siete canciones de un hombre. O sea que tiene que poner más esfuerzo para escuchar una canción de una mujer y eso ya lo predispone a lo que va a escuchar. Es como cuando buscás algo en Google y tenés que ir a la tercera página para encontrar tu resultado; es más difícil que lo hagas. Es más probable que escuchemos o leamos aquello que nos ponen primero”, señaló.
A partir de esos resultados los investigadores intentaron ver qué ocurriría a largo plazo si las recomendaciones estuvieran planteadas de otra manera; una especie de simulación de la realidad.
“Para mí lo más interesante de este estudio fue ver que el algoritmo se retroalimenta, es como un loop. Como los usuarios escuchan menos artistas femeninas el algoritmo recomienda menos artistas femeninas y, como el algoritmo recomienda menos artistas femeninas, los usuarios escuchan menos artistas mujeres. Es una cadena que en algún momento hay que cortar si en realidad queremos cambiar lo que está sucediendo”, indicó Ferraro.
Al ingeniero lo que le parece importante es que seamos conscientes de lo que está sucediendo y podamos pedir un cambio.
“En el estudio pudimos ver que es posible ese cambio simplemente reordenando la lista que se le presenta al usuario, poniendo más arriba las canciones de artistas femeninas. Con eso vamos a ver que en el largo plazo el balance se logra naturalmente y ya no es necesario seguir haciendo modificaciones”, explicó.
Aclaró, de todas formas, que “estos algoritmos están basados en inteligencia artificial. El problema es que los métodos que se usan funcionan como cajas negras, es decir que no son muy transparentes en cuanto a cómo generan las predicciones”.
MÁS AVANCES. En octubre de 2021 Ferraro comenzó a cursar un posdoctorado en Canadá que es una especie de continuación de lo que estudió en el doctorado de Barcelona.
Lo realiza en Mila, Quebec Artificial Intelligence Institute, un centro de investigación que agrupa a varias universidades de Montreal, entre ellas la Mcgill University, a la que él está asociado. Mila está dirigido por Yoshua Bengio (Premio Turing por su trabajo en aprendizaje profundo), uno de los científicos más influyentes dentro de la computación.
El uruguayo integra un equipo multidisciplinario enfocado en temas de recomendación musical con objetivos que van más allá de lo comercial (ver recuadro ) y que supervisa el investigador de Google, Fernando Díaz.
Ese equipo a su vez forma parte de un proyecto más grande, que pertenece a la European Research Council y que involucra a investigadores de todo el mundo. Lo lidera la antropóloga y musicóloga Georgina Born, de la Universidad de Oxford.
“Tenemos un objetivo que es bastante ambicioso y contamos con poco plazo”, dijo Ferraro sobre esta investigación del impacto de los algoritmos en lo que consumimos en materia musical. “Es un tema que me apasiona y espero poder seguir trabajando más allá de este proyecto”, auguró como plan de futuro.