POR LA CARA
LA TECNOLOGÍA DE RECONOCIMIENTO FACIAL HA AVANZADO LO SUFICIENTE PARA SER ÚTIL EN MUCHOS ESCENARIOS,
de una considerable potencia de cálculo y fotos claras y muy bien iluminadas. Estos avances, no obstante, tienen consecuencias graves para la privacidad, sobre todo en una sociedad con una presencia cada vez mayor de cámaras en espacios públicos. A los vídeos de seguridad de comercios o las cámaras instaladas por los propios Gobiernos se suman las imágenes que ahora capturan los timbres inteligentes o los propios móviles de los ciudadanos.
Hay una enorme cantidad de vídeos de cualquier lugar y cualquier momento. Tanta que para los humanos resultaría muy difícil analizarla en tiempo real. Para una máquina, sin embargo, es un asunto trivial, que combinado con la mayor capacidad para detectar un rostro determinado, abre una nueva vía para las investigaciones policiales: consigue un vídeo en el que aparezca el autor de un delito o un sospechoso, compáralo con una base de datos de criminales ya identificados o un universo de personas limitado extraído, por ejemplo, de redes sociales y ¡bingo!, obtienes nuevas líneas de investigación sólidas con los sujetos que aparecen en las imágenes. La serie CSI casi se queda corta.
En la práctica, la que se queda corta es la propia tecnología de reconocimiento facial, que sí, funciona, pero no de una manera tan mágica como parece indicar el párrafo anterior. Los modelos de aprendizaje de máquinas que usan los sistemas que identifican los rostros tienen sesgos que tienden a desfavorecer a personas con tonos oscuros de piel. Ya sea por falta de datos y modelos durante el entrenamiento, o porque las imágenes poseen menos detalle por el alto contraste, se confunden con mucha más frecuencia con individuos negros, y fallan a la hora de identificarlos correctamente.
Esto plantea un grave problema en países como los Estados Unidos, donde la comunidad afroamericana vive –las estadísticas lo demuestran– mucho más vigilada y perseguida por la policía que ninguna otra. Un falso positivo de un sistema de reconocimiento facial puede llevar a un inocente a la cárcel si este no dispone de una buena coartada. El programa puede proclamar con un alto grado de probabilidad que el rostro que aparece en una secuencia pertenece