Expansión Andalucia Int - Jurídico Int

¿Por qué la auditoría algorítmic­a se ha convertido en una prioridad?

El Centro Europeo para la Transparen­cia Algorítmic­a investiga el funcionami­ento de los algoritmos que utilizan las plataforma­s online para evitar posibles riesgos legales.

- Víctor Moreno.

El mundo moderno se mueve y avanza por y con los algoritmos. Éstos determinan muchos aspectos de la navegación en Internet y algunas aplicacion­es, pueden, por ejemplo, aconsejar qué artista escuchar después de oír determinad­a canción, pero además pueden generar una lista de alimentos más saludables para cada persona, ser una herramient­a para escoger los mejores embriones para una investigac­ión o determinar qué trabajador­es deberían ser despedidos.

Los algoritmos también marcan la evolución de la inteligenc­ia artificial, que ha despegado de manera exponencia­l y cuyo límite es, a estas alturas, desconocid­o. Sin embargo, todos estos aspectos positivos se pueden ver oscurecido­s por los negativos, como son la creación de sesgos y de burbujas informativ­as y cognitivas.

La actualidad informativ­a muestra cómo los modelos de negocio centrados en la evolución de los algoritmos están empezando a generar problemas: en Estados Unidos, por ejemplo, las escuelas públicas han demandado a TikTok y Facebook por “promover contenidos dañinos” y enganchar a “decenas de millones de estudiante­s en bucles de retroalime­ntación positiva de uso excesivo y abuso de las plataforma­s online”.

Frente a esta realidad la auditoría algorítmic­a se ha convertido en una herramient­a esencial y la reciente apertura en Sevilla del Centro Europeo para la Transparen­cia Algorítmic­a (ECAT, por sus siglas en inglés) demuestra cómo, desde la Unión Europea, este aspecto está en el punto de mira.

El nuevo organismo, dependient­e de la Comisión Europea, ha nacido para dar respuesta al marco de transparen­cia y rendición de cuentas para las plataforma­s en línea que establece la Ley de Servicios Digitales (DSA, por sus siglas en inglés, que entró en vigor en noviembre de 2022) y para convertirs­e en una suerte de auditor algorítmic­o.

Ante el impacto social cada vez más importante de las páginas web, las redes sociales o los motores de búsqueda, la UE entiende que es necesario implantar una supervisió­n pública de los procesos de estos negocios, lo que incluye, en particular, observar cómo estas plataforma­s moderan el contenido y de qué modo selecciona­n la informació­n que presentan a sus usuarios.

El ECAT se ocupará de examinar estos aspectos, analizará los algoritmos y mitigará los riesgos, protegiend­o así los derechos fundamenta­les de los usuarios y logrando un entorno seguro dentro de los sistemas utilizados por las plataforma­s de gran tamaño y los motores de búsqueda.

Según ha comentado Thierry Breton, comisario responsabl­e de mercado interior, “en la Comisión estamos construyen­do una potente capacidad para supervisar a las empresas tecnológic­as más grandes e innovadora­s. La DSA nos ha proporcion­ado las herramient­as legales para abrir la caja negra de los algoritmos que usan estas compañías. Los conocimien­tos especializ­ados con los que cuenta el ECAT serán cruciales para alcanzar este objetivo”.

Otro paso adelante

La Comisión Europea, en cumplimien­to de la Ley de Servicios Digitales, designó las primeras 17 plataforma­s y dos motores de búsqueda, como Amazon Store, Facebook, Google Play, Instagram, LinkedIn, TikTok o Zalando, que deberán cumplir antes de que acabe el verano la totalidad de las nuevas obligacion­es derivadas de dicha normativa.

Entre las principale­s prioridade­s, estas compañías tendrán que impulsar la protección de los menores, capacitar a los usuarios frente a posibles denuncias y bajas de servicios, pero también deberán velar por que sus evaluacion­es de riesgos y el cumplimien­to de las obligacion­es de la DSA sean objeto de una auditoría externa e independie­nte. Además, estarán obligadas a dar acceso a los datos públicos a los investigad­ores, publicar repositori­os de todos los anuncios utilizados en su interfaz, así como los informes de transparen­cia sobre las decisiones de moderación de contenidos y la gestión de riesgos.

En resumidas cuentas, las citadas plataforma­s –las primeras de una larga lista– tendrán que detectar, analizar y mitigar una amplia gama de riesgos sistémicos, desde la manera en que los contenidos ilegales y la desinforma­ción pueden amplificar­se a través de sus servicios hasta las repercusio­nes en la libertad de expresión y la libertad de los medios de comunicaci­ón.

En definitiva, el ECAT sirve para prestar asistencia a la Comisión Europea a la hora de valorar si el funcionami­ento de los sistemas algorítmic­os se atiene a las obligacion­es de gestión de riesgos.

Facebook, TikTok Google Play o Zalando deberán ser transparen­tes y ceder algunos datos

 ?? ?? El comisario de Mercado Interior de la Comisión Europea, Thierry Breton, ha sido responsabl­e de la Ley de Servicios Digitales.
El comisario de Mercado Interior de la Comisión Europea, Thierry Breton, ha sido responsabl­e de la Ley de Servicios Digitales.

Newspapers in Spanish

Newspapers from Spain