INTELIGENCIA ARTIFICIAL E IMPARTICIÓN DE JUSTICIA
Es importante reconocer que la IA no es una herramienta neutral ni ajena a los prejuicios, estereotipos y violencias presentes en las distintas sociedades
“Es un nuevo reto para el que todos los operadores jurídicos debemos prepararnos, no sólo en las universidades sino como parte de la actualización continua”.
Es innegable que la Inteligencia Artificial (IA) ofrece valiosas oportunidades para facilitar la gestión de tareas y la sistematización de información, sobre todo cuando se trata de actividades repetitivas. En los órganos impartidores de justicia, la IA ha permitido crear bancos de sentencias con datos cuantitativos sobre quiénes y dónde se emiten las resoluciones, y para medir la eficiencia de las instancias, identificar los criterios y hasta pronosticar el sentido en que cada juzgadora o juzgador va a resolver. El uso de la IA puede facilitar a los órganos jurisdiccionales vigilar la productividad, ya que permite determinar si al resolver se está observando la causa de pedir, si hubo omisiones durante el procedimiento o si se garantizaron los derechos humanos de las personas justiciables.
Estas nuevas posibilidades no deben pasar por alto que los sistemas de IA son diseñados por personas, las cuales en su proceso de socialización e historia de vida pueden privilegiar ciertos valores con respecto a otros y, por tanto, es importante reconocer que la IA no es una herramienta neutral ni ajena a los prejuicios, estereotipos y violencias presentes en las distintas sociedades, considerarlo así representa un grave sesgo que puede reforzar dichas prácticas en perjuicio de las personas y de las instituciones cuyo objetivo es salvaguardar los derechos ciudadanos. No olvidemos que existe subrepresentación de las mujeres en las carreras de ciencia, tecnología, ingeniería, matemáticas y menos programadoras trabajando en ese sector, lo que implica, una vez más, un sesgo de género que tiene un impacto en la forma como se entrenan los modelos para procesar los datos.
Es por ello que, en la programación de los sistemas de IA de los órganos impartidores de justicia, es necesario asegurar que los principios y valores reconocidos por la Constitución, los tratados internacionales y otras fuentes del derecho que velan por la democracia y la diversidad, sean reconocidos para asegurar que sus resultados no vulneren el Estado de Derecho. La IA, en tanto herramienta, cumple los propósitos de los usuarios, así es como también se emplea para violentar a las mujeres, incluso por menores de edad, que se sirven de la IA para alterar la imagen de compañeras de escuela o vecinas para fines pornográficos, es decir, la violencia de género encuentra otro asidero en el espacio virtual y nuevos instrumentos para dificultar la identificación de quienes cometen esas conductas.
No todo es negativo, la IA también puede ayudar a identificar los sesgos de género que persisten en diferentes ámbitos, especialmente en las sentencias y actos de autoridad. La regulación en la materia debe considerar necesariamente estos aspectos, como ya lo hecho la Unión Europea, en su Ley de IA. Uno los principales desafíos que entraña la IA para las personas juzgadoras, está en el análisis de las pruebas, ya que ésta puede crear documentos, videos, imágenes y audios cuya veracidad es difícil de identificar a simple vista. Un nuevo reto para el que todos los operadores jurídicos debemos prepararnos, no sólo en las universidades sino como parte de la actualización continua que como profesionistas y personas servidoras públicas debemos recibir. El uso de esta herramienta dependerá de definir sus riesgos y establecer medidas para prevenirlos, capacitar a las personas y sensibilizarlas respecto a la responsabilidad que entraña su utilización cuando ésta no se apega a un marco ético.