Tecnología del reconocimiento facial llega a las escuelas
Los oponentes aseguran que las inquietudes que provoca este sistema son más preocupantes cuando se trata de niños
Jim Shultz hizo todo lo que pudo para evitar que la tecnología de reconocimiento facial entrara en las escuelas públicas de Lockport, una pequeña ciudad ubicada a 32 kilómetros de las cataratas del Niágara. En un grupo de Facebook llamado Lockportians, realizó publicaciones sobre el tema. Escribió un artículo de opinión en The New York Times. Presentó una petición ante el superintendente del distrito, donde su hija cursa el bachillerato.
Sin embargo, hace unas semanas, perdió. El distrito escolar de la ciudad de Lockport recurrió a la tecnología para monitorear a las personas que están en las propiedades de sus ocho escuelas, y se convirtió en el primer distrito de escuelas públicas en Nueva York, así como en uno de los primeros de la nación, en adoptar el reconocimiento facial.
Según Shultz, de 62 años, el distrito convirtió a nuestros hijos “en ratas de laboratorio de un experimento de alta tecnología sobre la invasión de la privacidad”.
La decisión enfatiza cómo se está propagando el reconocimiento facial en Estados Unidos y cómo se está desplegando por el país mediante nuevos mecanismos, aunque los funcionarios públicos recurren a la tecnología en nombre de la seguridad pública.
Algunas ciudades, como San Francisco y Somerville, Massachusetts, han impedido que sus gobiernos usen la tecnología, pero son las excepciones. Tan solo en el último año, más de 600 agencias de seguridad comenzaron a utilizar la tecnología de una empresa, Clearview AI. Los aeropuertos y otros lugares públicos, como el Madison Square Garden en Manhattan, también la han adoptado.
Las escuelas son un nuevo frente, y el debate que tuvo lugar en Lockport encapsula el furor en torno a la tecnología. Sus defensores la describen como una herramienta crucial para combatir el crimen, para evitar los tiroteos masivos y para detener a los depredadores sexuales. Robert LiPuma, el director de tecnología del distrito escolar de la ciudad de Lockport, señaló que creía que, si la tecnología hubiera estado instalada en el bachillerato Marjory Stoneman Douglas en Parkland, Florida, el ataque mortal de 2018 tal vez nunca habría ocurrido.
“Habría sido un alumno expulsado que hubiera estado en el sistema, y se supone que estas personas no deben estar en las instalaciones de la escuela”, comentó LiPuma. “Entró por una puerta abierta. En cuanto se coló, el sistema lo habría identificado”.
Sin embargo, los oponentes como Shultz aseguran que las inquietudes que provoca el reconocimiento facial —en específico las relacionadas con la privacidad, la precisión y los prejuicios raciales— son incluso más preocupantes cuando se trata de niños.
“Someter a niños de 5 años a esta tecnología no será seguro para nadie y no podemos permitir que una vigilancia invasiva se vuelva la norma en nuestros espacios públicos”, comentó Stefanie Coyle, consejera educativa de la Unión de Libertades Civiles de Nueva York. “Recordarle a la gente sus peores miedos es una táctica decepcionante, diseñada como distracción para no mencionar que este producto es discriminatorio, poco ético y no es seguro”.
De acuerdo con LiPuma, cuando el sistema está encendido, el software observa los rostros captados por los cientos de cámaras y calcula si esas caras coinciden con una lista de “personas de interés” elaborada por los administradores escolares.
En esa lista se encuentran los agresores sexuales de la zona, gente que tiene prohibido observar estudiantes a causa de una orden de restricción, exempleados que se les prohibió visitar las escuelas y otras “amenazas creíbles” a juicio de las agencias de seguridad.
Buscar armas
Si el software detecta a una persona de la lista, el sistema Aegis envía una alerta a uno de los 14 miembros del personal de seguridad que Lockport contrató de medio tiempo o tiempo completo, señaló LiPuma. Entonces, el monitor humano busca la fotografía de la persona en la base de datos para “confirmar” o “rechazar” que coincide con el individuo que captó la cámara.
Si el operador rechaza la coincidencia, se descarta la alerta. Si se confirma, se emite otra alerta a un puñado de administradores del distrito, quienes deciden qué
Jayde McDonald, licenciada en Ciencias Políticas por la Universidad Estatal de Búfalo, fue una de los pocos estudiantes afrodescendientes en las escuelas públicas de Lockport. McDonald comentó que consideraba demasiado riesgoso que la escuela instalara un sistema de reconocimiento facial capaz de llamar a la policía de forma automática.
“Debido a que los porcentajes de coincidencias falsas son tan altos, esto podría derivar en situaciones muy peligrosas y completamente evitables”, señaló McDonald.
McDonald agregó que creía que los policías iban a “hacer todo lo posible para detener a un sospechoso”, aunque esa persona fuera un joven estudiante en una escuela.
Quienes se oponen a la nueva tecnología depositan sus esperanzas en los abogados estatales. En abril del 2019, la asambleísta Monica Wallace, demócrata de Lancaster, presentó un proyecto de ley para obligar a Lockport a detener el uso del reconocimiento facial durante un año mientras el Departamento Estatal de Educación estudia la tecnología.
El proyecto de ley fue aprobado sin mayores problemas en la Asamblea, pero no lo aceptó el Senado.
La tecnología también llevará a cabo escaneos en busca de armas. Si el sistema de monitoreo confirma que se detectó una, se emitirá una alerta automática a los administradores y al departamento de policía“.