Un modelo de auditorías para el diseño de los algoritmos

Control. Dentro de las propuestas europeas más tangibles para establecer herramientas de control de la inteligencia artificial se encuentra la utilización de sistemas de autoría para supervisar ex ante qué tipo de datos alimentan los algoritmos, cómo se construyen esos sistemas y qué criterios rigen las tomas de decisiones.

Trazabilidad. Precisamente la propuesta de reglamento sobre inteligencia artificial de la Unión Europea recoge que las Administraciones públicas deberán “facilitar que se realicen auditorías de los sistemas de IA” con nuevos requisitos en materia de documentación, trazabilidad y transparencia.

Carta. También en la Carta de Derechos Digitales que aprobó el Gobierno recientemente se abre la puerta a la implantación de esas auditorías sobre los sistemas de algoritmo. En concreto, el texto señala que en el desarrollo y ciclo de vida de los sistemas de inteligencia artificial “se establecerán condiciones de transparencia, auditabilidad, explicabilidad, trazabilidad, supervisión humana y gobernanza”. En todo caso, añade, “la información facilitada deberá ser accesible y comprensible.”

Independencia. El modelo de quién debe llevar a cabo esas auditorías no está aún claro, pero todo apunta a que se propondrá un organismo independiente.