Que decida el algoritmo

La creciente tendencia a recopilar datos a través de algoritmos informáticos y tomar decisiones en relación a los resultados que ofrecen provoca en la práctica diferentes sesgos sociales contrarios a ciertos principios éticos, como explica Carles Casajuana: “Hay algoritmos racistas, como los que hacen que en Estados Unidos, si uno busca en Google nombres de negros, le aparezca publicidad de agencias especializadas en descubrir los antecedentes penales de las personas”.

En el pueblo de mi mujer, en Mallorca, cuando llegó el primer televisor, hace cerca de sesenta años, había una señora que, para poner en evidencia la admiración bobalicona de los vecinos, les preguntaba con guasa, refiriéndose a las personas que salían en la pantalla y a las que presumiblemente había detrás de ella: “Y ellos ¿también nos ven a nosotros?”.

La pregunta era profética. Entonces no nos veían, pero ahora sí. Ahora las personas del otro lado de la pantalla –una pantalla que ya no es la del televisor, sino la del ordenador o la del móvil– lo saben casi todo de nosotros. Saben dónde vivimos, cómo pensamos, con quién nos relacionamos. Saben nuestros hábitos, nuestros horarios, nuestras aficiones. Lo que nos interesa y lo que no. Lo que compramos, lo que preguntamos, lo que leemos. Saben cosas de nosotros que no le diríamos a nadie.

Esto les da un poder enorme, omnipresente. Es un poder que nos entretiene, que nos divierte de una forma cada día más adictiva, que despierta nuestro deseo y que encauza nuestra forma de pensar, que nos tiene hipnotizados. Se nos ha hecho tan útil que ya no podemos prescindir de él. Empieza a esclavizarnos.

Ya se sabe: el progreso nos quita con una mano lo que nos da con la otra. La red nos da acceso a todo tipo de experiencias y de conocimientos y nos mantiene en contacto permanente de una forma prácticamente gratuita con las personas que nosotros decidimos y con muchas otras que no sabemos ni quiénes son. A cambio, nos exige cada día más atención, nos distrae constantemente, nos empuja a seguir trabajando después del horario laboral, nos invade con todo tipo de noticias verdaderas y falsas y vende nuestra intimidad al mejor postor.

Sin darnos cuenta de ello, estamos perdiendo la capacidad de concentrarnos durante más de diez minutos seguidos. Para resistir el impulso de mirar si tenemos correos, las últimas noticias o de quién es el watsap que acabamos de recibir, se necesita una fuerza de voluntad heroica. Hay momentos en que la única manera es meter el móvil en la nevera. En Silicon Valley, hay escuelas de élite en las que los móviles y los iPads están prohibidos. Es una regla que recuerda la de los camellos más sofisticados: no colocarse nunca con los propios productos.

No somos conscientes de los hilos que mueven un pequeño grupo de directivos de los nuevos gigantes tecnológicos. En Estados Unidos, se calcula que más del setenta por ciento de los currículums enviados para encontrar trabajo no son leídos por ninguna persona: los filtran los algoritmos, esas complejas órdenes informáticas que cada vez deciden más cosas. Los algoritmos deciden los precios de los seguros, a quién se le puede dar una hipoteca y a quién no, el tipo de noticias que recibimos, los anuncios que nos aparecen en la pantalla cuando miramos qué tiempo hará mañana. Se supone que son objetivos, pero se basan en apreciaciones de unos seres humanos tan falibles como nosotros. Responden a modelos matemáticos opacos, indescifrables para todos con la excepción de unos cuantos ingenieros informáticos. La mayoría están diseñados con buenas intenciones, pero incorporan sesgos y prejuicios. Sus veredictos suelen ser inapelables.

Hay algoritmos racistas, como los que hacen que en Estados Unidos, si uno busca en Google nombres de negros, le aparezca publicidad de agencias especializadas en descubrir los antecedentes penales de las personas. Los hay explotadores, como los que diseñan los horarios de personas que trabajan a tiempo parcial, con horas cambiadas cada día, para que no puedan tener otro empleo ni combinar el trabajo con los estudios. Los hay machistas, como los que dirigen los anuncios de puestos de trabajo para altos directivos a hombres más que mujeres. Todos son conservadores, porque están basados en los datos del pasado. Como no saben derecho constitucional, tienden a favorecer a los ricos y a discriminar a los pobres y los marginados. ¿Y si un día gana las elecciones un partido político que ha elaborado su programa con un algoritmo? Quién sabe, quizás ya ha ocurrido.

Todos estos asuntos y otros relacionados con la digitalización y la automatización de la economía los discutimos la semana pasada en Sant Cugat, alrededor de Javier Solana, un grupo de personas convocadas por Aspen Institute y Esade. Fue una discusión vibrante, medio debate, medio terapia de grupo, con la sensación un poco angustiosa de que el genio de la tecnología se ha escapado de la botella y de que cada día será más difícil controlarlo.

Para reconfortarnos, uno de los participantes explicó algo que abre la puerta a la esperanza. El verano pasado su hijo de diecisiete años se fue de voluntario a un campo de trabajo de Tailandia y, por propia iniciativa, sin que ningún adulto se lo sugiriera, decidió ir sin móvil, para desconectar y tener una experiencia más auténtica del viaje. Quizás es un signo. Quizás el péndulo comienza a volver al punto de partida.

La mayoría de los algoritmos están diseñados con buenas intenciones, pero incorporan sesgos y prejuicios