Escasa transparencia
Crimen. Las principales compañías del sector quieren poder seguir vendiendo sus herramientas sin que la sociedad se le eche encima. Akpinar y sus colegas Alexandra Chouldechova, también de la Carnegie Mellon, y Maria De-Arteaga, de la Universidad de Texas (Austin), concluyeron que nos es posible eliminar los sesgos de estos sistemas tras desarrollar su propio algoritmo predictivo. Se basaron en el modelo que utiliza PredPol, la herramienta más popular de Estados Unidos. “Aunque no hay una lista oficial de cuántos departamentos de policía tienen contratos con PredPol, se sabe que docenas de ciudades estadounidenses usan o han usado en algún momento las herramientas de la compañía, incluyendo Los Ángeles, San Francisco, Oakland y Richmond”, asegura Akpinar. También hay pruebas, añade, de que la policía de Kent, en Inglaterra, ha trabajado con esta herramienta.
Colombia. Las investigadoras entrenaron a su algoritmo con datos estadísticos de criminalidad de Bogotá, una de las pocas ciudades que publica informes de denuncias por distritos y que trabaja en la implementación de uno de estos sistemas predictivos. Cuando cruzaron los resultados de su modelo con los datos reales de delitos detectaron errores de bulto. Las áreas con mayor criminalidad, pero pocas denuncias, fueron menos identificadas como puntos calientes que las zonas con criminalidad media o baja pero muchas denuncias.