“Que los niños sepan de IA está bien, pero importa más su nivel de mates” “Estamos en la cuarta revolución industrial, y la IA forma parte de ella”
Josep Maria Martorell Nuria Oliver
La irrupción de la inteligencia artificial (IA) generativa ha sido fulgurante. De ahí que sea tan necesaria una reflexión serena sobre esta nueva tecnología, que protagoniza, junto a otras, la cuarta revolución industrial. Con esa finalidad, y en el marco de la Reunión Anual del Cercle d’economia, La Vanguardia reunió a dos especialistas en la materia: Nuria Oliver, ingeniera en telecomunicaciones y directora de la Fundación Ellis Alicante, y Josep Maria Martorell, director adjunto del Barcelona Supercomputing Center (BSC). Lo que sigue es el resultado de su cara a cara, moderado por Miquel Molina, director adjunto de La Vanguardia.
¿Les ha sorprendido que la IA generativa se haya convertido en un fenómeno social?
Nuria Oliver (NO): Lo que ha sido sorprendente es la adopción masiva de CHATGPT y su presencia en las portadas de los medios de comunicación casi cada día. CHATGPT pone de manifiesto muchos de los retos éticos y de las limitaciones de los sistemas actuales de IA, y ha hecho evidente también la cuestión de la regulación, que en Europa se lleva trabajando desde el 2021.
¿Habría sido interesante seguir con la IA el proceso que se aplica a los fármacos, que pasan por las agencias reguladoras y van obteniendo permisos?
JMM: Aquí siempre está la duda de cuánto regulas y cuánto dejas que se innove. De entrada, estamos hablando de software, y cuando el objeto del debate es un software, las reglas son diferentes, es algo mucho más fluido. El reto es encontrar el equilibrio entre no ser irresponsable de abrirlo todo y tampoco frenar la innovación, sin la cual no se avanzará.
NO: Estoy de acuerdo, pero también es verdad que todos formamos parte de este gran experimento social que involucra a cientos de millones de personas sin saber qué impacto puede tener. En el caso de la IA generativa, no sabemos qué va a generar realmente, porque el universo de cosas que puede crear es prácticamente ilimitado, y eso dificulta aún más la regulación. Más que regular la tecnología, lo que tendríamos que hacer es regular el impacto. Hay que abstraerse de los métodos concretos que se están utilizando, pero no aceptar un sistema que discrimine, que manipule el comportamiento humano, que viole la privacidad, que utilice datos sin consentimiento… Hay una serie de principios básicos que se tienen que cumplir independientemente de qué tecnología subyacente estés utilizando. Pero claro, ¿cómo implementas eso? ¿Cómo defines el riesgo? ¿Quién lo determina? ¿Cómo implementas la regulación y velas para saber que se está cumpliendo? Ahí está realmente la complejidad, y hasta que no empiece a funcionar el reglamento europeo va a ser muy difícil anticipar cualquier cosa.
JMM: Hay una cuestión importante, y es saber hasta qué punto la existencia misma de una regulación, que todavía no tenemos claro cómo se va a implementar, va a incentivar poco la instalación en Europa de ciertas iniciativas. Cuán fácil será, exagerando y simplificando, a un emprendedor en cuestiones de IA establecerse en otro sitio con una regulación menor. Esto es lo que no sabremos hasta que veamos cómo se ejecuta la regulación europea.
¿Sería necesario implementar una asignatura en primaria para introducir esta disciplina a los alumnos?
JMM: En eso soy bastante escéptico. A modo de anécdota, el otro día me vinieron a ver responsables de una escuela de Barcelona y me preguntaron si me parecía interesante que a los de 5.º y 6.º de primaria les hicieran un módulo de computación cuántica. La primera cosa que piensas es, “bien, los responsables están muy inquietos sobre lo que les va a suceder a estos chavales en el futuro”; pero la segunda cosa que te viene a la cabeza es, “bueno, tampoco vamos a exagerar”. Tiendo a pensar que una vuelta a lo básico siempre es una buena idea. Está bien preocuparse porque los niños de primaria entiendan qué es la IA, pero lo primero que nos debe de preocupar es el nivel de matemáticas que van a tener.
NO: Yo llevo mucho tiempo defendiendo dos elementos respecto a una posible reforma de la educación obligatoria. Por una parte, sí que creo que sería valioso introducir una asignatura troncal de pensamiento computacional, para lo cual no es necesario usar ordenadores.
JMM: Eso es otra cosa, sí. NO: El pensamiento computacional conlleva el desarrollo de cinco competencias, que son muy importantes y útiles en la vida: la primera es el pensamiento algorítmico, es decir, enseñar a resolver problemas complejos descomponiéndolos en pasos y en módulos que se van sucediendo en el tiempo; la segunda es la programación, porque al final es el lenguaje de la tecnología; la tercera son los datos. Hay una gran ignorancia sobre todas las cuestiones relacionadas con los datos, incluyendo cómo se están usando los que generan, utilizando las re
des, los niños y adolescentes; la cuarta son las redes, porque vivimos en un mundo de redes; y la quinta y última es el hardware, que sería un mínimo conocimiento de todos los dispositivos tecnológicos que usamos. Esto sería un poco el qué. Pero también es importante reforzar habilidades que sabemos que han sido clave para la supervivencia del Homo sapiens y que quizás no estamos desarrollando lo suficiente, como son el pensamiento crítico, la creatividad y todas las habilidades de las inteligencias social y emocional. Para mí, estas dos áreas son importantes y tengo mis dudas de que los niños y adolescentes del siglo XXI tengan las herramientas necesarias tanto en el contexto del pensamiento computacional como en el más social y emocional y de pensamiento crítico.
¿Se creará una nueva brecha? Además de los nativos digitales y los que no lo son, ¿habrá una nueva entre los que sabrán usar esta nueva tecnología y los que no?
JMM: Al final, cualquier nueva tecnología acaba provocando eso. No sé si lo que estamos viviendo ahora acabará siendo relevantemente distinto a la conversación que hubiéramos podido tener hace exactamente treinta años con la irrupción de internet.
NO: Normalmente se habla de cuatro revoluciones industriales en los últimos 200 años: la máquina de vapor; la irrupción de la electricidad y los procesos de fabricación en masa; internet y los ordenadores personales (la primera que se conoce como la revolución de la información); y la cuarta, que es en la que estamos inmersos ahora y que representa una unión íntima sin precedentes entre el mundo físico, biológico y digital. En el corazón de esta cuarta revolución industrial hay muchas disciplinas, como son la biotecnología, la nanotecnología, la ingeniería genética y la IA. Somos conocedores de que cualquier revolución
Josep M. Martorell Director adjunto del BSC
Cualquier nueva tecnología acaba provocando, por defecto, una brecha”
No tengo claro que la IA se convierta en un producto, y eso implica riesgos”
Hay empresas privadas que han entendido cómo retener el talento investigador” Nuria Oliver Directora científica de ELLIS Alicante
Un oligopolio de empresas tecnológicas está liderando la investigación en IA”
China, que quiere ser la primera potencia, tiene la estrategia más ambiciosa en IA”
No todo el desarrollo tecnológico tiene por qué representar un progreso”
industrial ha transformado profundamente todos los ámbitos de la sociedad, incluyendo evidentemente el tejido productivo y el mercado laboral. Y eso sabemos que está pasando y que va a pasar con la IA.
¿Podemos hablar de un nuevo ludismo?
NO: Podemos hablar de un nuevo contrato social. Ludismo siempre ha habido, pero yo creo que se sustentará más en que colectivamente decidamos en qué desarrollo tecnológico queremos invertir. No todo el desarrollo tecnológico representa un progreso.
JMM: En cualquiera de las anteriores revoluciones, obviamente la tecnología empezaba en manos de algunos e inmediatamente se convertía en un producto. Pero no estoy seguro de que en este caso acabe pasando lo mismo. Si analizas internet, la electricidad, la máquina de vapor… al cabo de unos años fue un producto, con un propietario público, a veces privado, pero era un producto. La IA no es obvio que acabe siendo así, y eso implica unos riesgos a nivel social, de control y del papel de los estados en estos ecosistemas que no sé cómo se van a discernir.
NO: Sí, tenemos una situación de asimetría brutal. Lo curioso es que la investigación en IA esté liderada por un oligopolio de empresas tecnológicas. Para ninguna disciplina es positivo que la investigación dependa de los intereses económicos de las compañías porque no necesariamente hay un alineamiento entre esos intereses y el bien social. Esa asimetría ahora mismo forma parte del reparto de poder mundial. Por eso hay más de una cincuentena de estrategias en IA en la mayoría de países o estructuras supranacionales, como la UE. Y por eso China, que quiere ser la potencia número uno del mundo, tiene la estrategia más ambiciosa del planeta en IA.
JMM: Es muy interesante la discusión del porqué la IA es, entre comillas, el primer campo científico de la historia reciente donde el liderazgo de la investigación lo lleva el mundo privado. Primero, porque es una disciplina donde el impacto inmediato económico es brutal. Y segundo, porque tenemos empresas privadas entendiendo cómo retener el gran talento investigador, proponiéndoles entornos con acceso a grandes infraestructuras y volúmenes de datos sin precedentes y condiciones económicas contra las que el mundo público no puede luchar. Y no solo eso. A la vez, les permiten publicar y explicar lo que hacen, pudiendo desarrollar una carrera científica tradicional.
NO: Históricamente, dentro de la IA ha habido dos grandes escuelas: la top-down, o simbólico lógica, y la bottom-up, o conexionista. La pregunta es: ¿por qué la cuarta revolución ha llegado ahora cuando la IA existe desde los años 50? Porque han confluido tres factores que han impulsado el desarrollo exponencial de las técnicas de IA bottom-up, que se basan en el aprendizaje a partir de datos: la disponibilidad de grandes cantidades de datos, de grandes capacidades de computación a bajo coste y el desarrollo de modelos complejos de aprendizaje profundo. La cuestión es: ¿quién tiene cantidades ingentes de datos y de computación? Las grandes empresas tecnológicas, que son además las más ricas del mundo. Tienen tantísimo dinero que pueden invertir en atraer a las mejores mentes para continuar monetizando nuestros datos.