La Justicia porteña mantiene suspendido el reconocimiento facial para identificar a prófugos
Se utiliza para detectarlos en espacios públicos. Luego de una reciente audiencia, la Justicia de la Ciudad ratificó la decisión de no reactivarlo.
La Justicia de la Ciudad de Buenos Aires mantiene la suspensión del uso del Sistema de Reconocimiento Facial de Prófugos (SRFP) luego de que una audiencia con especialistas y representantes del Ministerio de Seguridad porteño determinara que todavía no hay acuerdo sobre cómo auditar esta tecnología. Se trata de una inteligencia artificial que, para muchos expertos, tiene problemas que han derivado en detenciones erróneas y es cuestionada en términos de privacidad y garantías en diversos países.
El sistema, implementado para detectar e identificar a prófugos de la Justicia y delincuentes en 2019, demostró sus falencias cuando un ciudadano pasó casi una semana preso porque lo confundieron con un delincuente que tenía su mismo nombre, Guillermo Ibarrola.
A fines del año pasado, el tema volvió a estar en agenda, esta vez nacional, cuando el Gobierno de Javier Milei apuntó a implementar esta tecnología para identificar a manifestantes y penalizarlos con el retiro de planes sociales.
A partir de un pedido de acceso de la información pública realizado en 2019 por el Observatorio de Derecho Informático de la Argentina (ODIA), y luego una acción de amparo, se dieron una serie de procesos legales empujados también por el Centro de Estudios Legales y Sociales (CELS) y la Fundación Vía Libre que desembocaron en la suspensión del uso del reconocimiento facial en territorio porteño, desarrollado por la empresa de software Danaide S.A.
“Se entiende por reconocimiento facial a aquella tecnología que permite identificar o verificar, mediante un proceso automatizado, a una persona a través de una imagen, video o cualquier elemento audiovisual de su rostro”, explicó a Clarín María Luján Gallego, abogada y especialista en Protección de Datos del Estudio Brons & Salas.
Clarín consultó al Gobierno de la Ciudad cómo funciona esta tecnología SRFP en suelo porteño. “La tecnología empeñada para el reconocimiento facial que analiza imágenes de una base de datos pública llamada CONARC (Consulta Nacional de Rebeldías y Capturas) es gestionada por el Ministerio de Justicia y Derechos Humanos de la Nación, o por orden directa de una autoridad judicial competente. Esta base se actualiza diariamente y contiene registros de mayores de edad que están siendo buscadas por la justicia”, explicaron.
El uso, argumentan, está justificado en gran parte por los resultados: “Al momento de ser suspendido, el Sistema de Reconocimiento Facial de Prófugos había logrado detectar, circulando libremente por la Ciudad Autónoma de Buenos Aires, 1743 prófugos -sobre una base nacional de aproximadamente 40 mil-, incluyendo acusados de homicidio, robo y distintas modalidades de abuso sexual, entre otros delitos”.
En este contexto, la audiencia de hace dos semanas tenía a las dos partes enfrentadas: el Gobierno porteño pidiendo que el sistema se reactive por un lado, y las entidades de la sociedad civil ODIA, Vía Libre y el CELS por el otro.
“El Ministerio de Seguridad porteño dijo que ellos estaban a disposición para todas las auditorías, así que pidieron activar el sistema y auditarlo en funcionamiento. Eso no prosperó, o sea que el sistema está apagado y no lo pueden volver a prender”, explicó Beatriz Busaniche, presidenta de la Fundación Vía Libre, quien participó de la audiencia.
“Hay un fallo de Cámara que está firme, que prohíbe la utilización del sistema de reconocimiento facial hasta tanto no se cumplan con las especificaciones legales de los mecanismos de ‘contralor’ (control). El gran problema es quién y cómo hace la auditoría”, sumó Busaniche.
El enfrentamiento entre las partes significa que hasta que no haya una auditoría sobre el software utilizado y su implementación, el sistema seguirá sin utilizarse.
“La jueza Liberatori no aceptó ordenar la reimplementación del sistema mediante una simple auditoría de caja negra -sin “ver” cómo funciona-, que entendemos que sería insuficiente”, explicó a Clarín
Tomás Pomar, presidente de ODIA, la entidad que inició los reclamos en 2019.
“Nosotros celebramos la decisión de la Justicia de elevar el nivel de auditoría requerido para esta tecnología de carácter crítico, celebramos también que se pida un plan de acción donde se compartan los datasets y el modelo de entrenamiento (de la IA) y creemos positivo que siga desconectado”, cerró el abogado especialista en privacidad y derechos de los ciudadanos.
“El debate político sobre el tema en Argentina es de una pobreza extrema, se parte del hecho de que cualquier tecnología es necesariamente positiva y útil sin evaluar su impacto como corresponde. Afortunadamente, la sociedad civil accionó a tiempo y la Justicia estuvo a la altura de las circunstancias poniendo límites para defender no sólo el derecho a la libre circulación,
sino con una nota importante en relación a las compras públicas que hace el estado y la obligación de transparencia de lo que hace con nuestros datos biométricos”, Busaniche.
Tras el cuarto intermedio, las partes acordaron reunirse para elaborar un plan que contemple un marco institucional, un presupuesto y un plan metodológico claro para una auditoría real del sistema.
Hasta el cierre de esta edición, las partes no avanzaron en esa línea y el sistema de reconocimiento facial seguirá suspendido hasta que una nueva propuesta para auditarlo se presente ante la Justicia.
“Hasta ser suspendido, había detectado a 1743 prófugos”, afirma la Ciudad.
Quienes se oponen sostienen que atenta contra la privacidad y la libre circulación.