Niños de segundo de primaria destapan los sesgos de la IA
La iniciativa ‘AI Skill Lab’ de la Universitat Rovira i Virgili (URV) acerca la IA al alumnado de 11 escuelas e institutos de Tarragona.
gros y desafíos, que resume en siete: privacidad, vigilancia, falta de autonomía, sesgos, confianza excesiva, brecha digital y protección de datos; riesgos que se enmarcan dentro de la Estrategia en Inteligencia Artificial de Catalunya.
En la cuestión del sesgo, esta nueva guía –elaborada por el Grupo de Trabajo sobre IA en Educación del Departament, en colaboración con profesionales de institutos y escuelas y de organismos como el Institut de Recerca en Intel·ligència Artificial del CSIC– señala que hay muchos ejemplos en IA, como pedir una imagen de una persona intelectual a una aplicación de generación de imágenes y que el retorno sea siempre de hombres blancos. Además, los documentos que genera la IA –prosiguen los expertos– pueden contener imágenes y visiones distorsionadas o «excesivamente estereotipadas», que pueden ser discriminatorias o influir en las percepciones de la persona receptora.
Trabajo con datos
«El trabajo personalizado requiere una bajada de ratios», piden los docentes
Más allá de la docencia, el documento plantea también que el sistema educativo se puede beneficiar en un futuro próximo de la IA como apoyo para personalizar los aprendizajes [poner al alumno en el centro, el mantra de los últimos años o «para establecer políticas educativas a partir de la generación de conocimientos del trabajo con datos». Así, cita aspectos como la previsión de intervenciones, la detección de perfiles de profesorado y de centros, y la mejora de los procesos administrativos.
En paralelo a la publicación de la guía, el Departament, consciente de lo vertiginosamente rápido que avanza este mundo, ha recogido este material, que va ampliando en la página web IA en Educación, y ha creado cuatro cursos de formación para docentes en los que se subraya que de momento «la IA no va mucho más allá de ChatGPT».
■
Aula de segundo de primaria –es decir, niños de 7 años– de la escuela Pau Delclòs de Tarragona, en la que hay alumnado de 22 nacionalidades distintas. El tema que los niños debaten con naturalidad y fluidez es, agárrense los cinturones, los sesgos de la inteligencia artificial. Explican que han hecho la actividad en inglés porque esa lengua no tiene género y han visto que, si le piden a la IA una imagen de un doctor, la mayoría de imágenes que genera son de doctores hombres. En cambio, si escriben teacher, las imágenes que crea son de mujer. Sin embargo, el programa vuelve a proyectar imágenes de hombres cuando introducen la palabra scientific. ¿Por qué pasa? «Porque a la inteligencia artificial (IA) la tenemos que entrenar, no nos tenemos que quedar de forma acrítica con lo primero que nos sale porque tiene sesgos», responden.
La escena la describe la investigadora Mar Camacho en una videollamada desde Estados Unidos, donde ha viajado para presentar en un congreso internacional el pionero proyecto AI Skills Labs, un «laboratorio para trabajar actividades avanzadas de inteligencia artificial con el objetivo de la transformación de los centros educativos» impulsado por la Universitat Rovira i Virgili (URV) en el que entre septiembre y marzo de este curso han participado 11 escuelas e institutos de la demarcación de Tarragona, entre ellos el citado Pau Delclòs. Una iniciativa a la que se han sumado
–«de forma voluntaria», remarca Camacho– 280 profesores que, tras 70 horas de formación, han obtenido el certificado de Nivel B2 de la competencia digital docente, y cuyas experiencias –cada sesión se ha plasmado después en las aulas, de infantil a postobligatoria– han tenido un impacto en 7.500 alumnos.
La esencia de este laboratorio –financiado con fondos Next Generation a través de una convocatoria del Departament de Educació – ha sido la incorporación al aula de todo aquello que se iba tratando durante la formación –en la que se ha trabajado el diseño de las actividades, la evaluación y el análisis de datos–, adaptado a las (muy) distintas realidades (de primaria a una escuela de hostelería, de FP). «Los 280 docentes que han participado han hecho un portafolio docente en el que aportan actividades, fotos, vídeos y muchísimas evidencias; los profesores han elaborado unas actividades excelentes a partir de las formaciones», relata la investigadora, que está preparando un artículo científico a partir de todos estos resultados.
Herramientas avanzadas
Uno de los puntos fuertes del proyecto es que, al contar con fondos europeos, pudieron comprar licencias para los centros educativos, para tener herramientas más avanzadas que las versiones gratuitas, y ofrecer un «acompañamiento muy cercano» con un objetivo claro: cambiar la mirada de la escuela hacia la IA. «Que la aproximación no se haga desde un ‘ui, esto es peligroso, hay que prohibirlo’, sino trabajarlo y acercarse con una visión pedagógica; hacemos esto para mejorar la educación», prosigue, muy satisfecha, también, de la respuesta de las escuelas implicadas tras meses intensos de trabajo. «Han participado en el laboratorio algunas escuelas con una cierta complejidad y nos han dicho que formar parte de este proyecto ha tenido un impacto positivo en las puertas abiertas; es decir, su trabajo ha generado interés en las familias», apunta.
Otro de los aspectos que la investigadora destaca del feedback docente es la cooperación entre los profesores que han participado en la formación, cómo han compartido sus experiencias y se han ayudado los unos a los otros.
■