China avanza en su esfuerzo por controlar los algoritmos
Un nuevo y amplio plan para restringir los algoritmos que impulsan las plataformas tecnológicas ha puesto a China a la vanguardia del creciente movimiento que busca frenar la influencia de las empresas gigantes de Internet.
Lanzada la semana pasada por la Administración del Ciberespacio de China (o CAC por sus siglas en inglés), la campaña tiene como objetivo establecer un sistema integral para regular el uso de algoritmos dentro de tres años, como parte del esfuerzo del gobernante Partido Comunista para controlar lo que considera prácticas comerciales sin escrúpulos y ejercer más control sobre el discurso online.
Los reguladores pidieron que los algoritmos sean justos y transparentes, al tiempo que se adhieran a la ideología del Partido Comunista de China.
La campaña coloca a China un paso adelante en la regulación de las plataformas tecnológicas, mientras los gobiernos de todo el mundo lidian con cómo responder a las tecnologías automatizadas que están reconfigurando los negocios, las interacciones sociales y la política.
A principios de este año, la Unión Europea propuso restringir ciertos usos de la inteligencia artificial para mitigar daños potenciales. En Estados Unidos, los legisladores están analizando el impacto del contenido impulsado por algoritmos de Facebook Inc. en los usuarios, luego de que The Wall Street Journal informara que la aplicación de Instagram de la compañía tiene un efecto negativo en la salud mental de los niños.
China se ha centrado en los algoritmos de forma más agresiva en su estricta supervisión del sector tecnológico nacional. Las directrices preliminares publicadas este verano requerirían algoritmos para proteger los derechos de los trabajadores y consumidores, y prohibirían el uso de algoritmos para manipular las cuentas de los usuarios, el tráfico online o los resultados de búsqueda.
“No vemos a China necesariamente como un innovador regulatorio, pero en este caso sí lo es”, afirmó Rogier Creemers, profesor asistente de la Universidad de Leiden en los Países Bajos que se centra en la política tecnológica china.
Según el plan de tres años publicado la semana pasada, los reguladores chinos describieron los pasos para monitorear los algoritmos, incluido un proceso de registro y el establecimiento de un equipo técnico para evaluar los mecanismos y riesgos de un algoritmo.
La última campaña se basa en un impulso regulatorio más amplio en el sector tecnológico de China que ha provocado investigaciones sobre algunas de las empresas más grandes del país, incluido el gigante del comercio electrónico Alibaba Group Holding Ltd., la plataforma de entrega de alimentos Meituan y la empresa de transporte privado a pedido Didi Global Inc. El impulso está dirigido, en parte, a las prácticas comerciales que los reguladores consideran perjudiciales para los trabajadores o los consumidores.
Empresas como Meituan y Didi se han enfrentado a problemas por las condiciones laborales de los conductores, acompañados de pedidos para hacer más transparentes los algoritmos que determinan las tareas de los trabajadores y sus pagos. Este año, las autoridades también han advertido a las empresas de tecnología contra la explotación de datos personales y el uso de algoritmos para cobrar precios discriminatorios a los clientes.
La Administración del Ciberespacio de China, Alibaba y Didi no respondieron a las solicitudes de comentarios. China está celebrando, actualmente, su fiesta del Día Nacional.
Meituan se negó a comentar. La compañía publicó anteriormente una explicación de su algoritmo de delivery y dijo que estaba haciendo cambios para brindar a los conductores de delivery más flexibilidad.
Los expertos dijeron que endurecer los controles sobre los algoritmos, sin obstaculizar el crecimiento o la innovación en uno
construyendo un sistema destinado a garantizar que los procesos automatizados de las plataformas de Internet sean justos, transparentes y estén en línea con la ideología del Partido Comunista.
de los sectores más exitosos de China, será un desafío para los reguladores. Las empresas de Internet confían en las complejas instrucciones matemáticas para funciones que van desde el análisis del comportamiento de las redes sociales, hasta el mapeo de rutas de entrega óptimas.
Si bien los algoritmos han contribuido a los avances tecnológicos y al desarrollo social, afirmó la CAC en el anuncio de la semana pasada, también han “planteado desafíos para salvaguardar la seguridad ideológica, una sociedad justa e igualitaria y los derechos legales de los usuarios de Internet”.
James Gong, socio del bufete de abogados Bird & Bird con sede en Beijing, afirmó que una supervisión regulatoria más estricta de los algoritmos probablemente tendrá un efecto en toda la industria de