“No veig impediment perquè la intel·ligència artificial faci el mateix que la humana”
Judea Pearl Enginyer computacional i filòsof
Judea Pearl (Tel-Aviv, 1936) riu quan el presenten com el pare de la intel·ligència artificial (IA) i en rebutja l’etiqueta. No obstant això, compara el desenvolupament de les màquines amb la criança dels fills i creu que els ordinadors s’haurien de considerar com una nova generació de nens que cal formar i educar amb l’esperança que s’ajustin al sistema de valors dels seus pares, els humans.
I és en aquesta línia en què destaca l’aportació d’aquest enginyer i filòsof: ha traduït a llenguatge matemàtic el raonament probabilístic i les relacions causa-efecte perquè els robots aprenguin a pensar com ho fan les persones i comprenguin la realitat de l’entorn, en comptes d’acumular només dades com passa amb la IA basada en deep learning.
Les seves contribucions conceptuals i matemàtiques li han valgut nombrosos i destacats guardons, com el premi Fundació BBVA Fronteres del Coneixement en Tecnologies de la Informació i la Comunicació, que va recollir el dia 16 a Bilbao.
Pot posar-me’n un exemple pràctic, una aplicació dels seus desenvolupaments?
Una àrea extraordinàriament prometedora és la medicina personalitzada i la presa de decisions personalitzades. Sabem com prendre dades de diferents fonts i oferir informació sobre un individu concret; no de la població ni d’una mitjana, sinó de si tu, per exemple, et beneficiaràs d’un fàrmac o de si aquell fàrmac fracassarà amb tu. I ja s’està fent servir per assajar teories, per descobrir de manera ràpida si una teoria és compatible amb les dades o no.
Al llec el sorprèn tot el que pot fer ja la IA i li fa por veure’s superat i desplaçat per ella. Què vostè?
No diria que hem de tenir por de la intel·ligència artificial, però sí que hem d’observar-la i vigilarla. És com criar els nens: existeix la probabilitat que un fill es converteixi
Els límits dels robots “Serà el programador qui els transmeti un codi de valors adaptat a la seva condició
Regular la IA “És prematur perquè encara no sabem què s’ha de reglar; primer han d’entendre-la”
en un Putin, però també que absorbeixi el sistema de valors que compartim.
Qui hauria d’establir aquest sistema de valors per a les màquines?
Els filòsofs tenen algunes teories de valor i els psicòlegs també en tenen. Però en intel·ligència artificial en tenim una de millor, perquè sabem com aplicar un sistema de valors a les màquines i, per tant i finalment, seran els científics de computació qui transmetin als robots un codi de valors adaptat a la seva condició.
Cada científic aplicarà els seus valors o es consensuaran?
Crec que hi hauria d’haver conferències i crear-se comitès per definir el sistema de valors i com comunicar-lo, amb participació de científics d’IA però també de científics socials i filòsofs. Però per fer-ho han d’aprendre el nostre llenguatge, perquè és una pèrdua de temps parlar sobre Aristòtil, ell no tenia pas ordinador.
Vostè ha permès a les màquines establir relacions causaefecte. Podran algun dia també raonar i imaginar?
Avui ja ho fan. Establir la relació causa-efecte és raonar, i el nivell contrafactual (pensar en alternatives que podrien haver passat i no van passar) és la seva imaginació.
Vostè sembla assumir que
qualsevol cosa que puguem fer els humans, les màquines també seran capaces de fer-la. I sentir i comprendre emocions?
Sí, i no soc la primera persona que ho diu. Marvin Minsky ho explicava a La máquina de las emociones (Debate). Les emocions són fàcils de programar, el que no és tan fàcil és controlar-les.
Això vol dir que els robots podran substituir les persones? En quin termini?
No sé quant trigarà, però la resposta és sí, en moltes àrees. No veig cap tipus d’impediment teòric perquè això passi. Quan passarà no ho sé, no soc futurista, soc científic incremental, només avanço el que puc demostrar.
I no hauríem de regular els límits del seu desenvolupament abans que ens superin?
No crec que ara puguem regular res, perquè en aquest moment no sabem què és el que hem de regular, és prematur. Qui vulgui regular-ne alguna cosa primer ha d’entendre els sistemes.
La qüestió és que avui ja es fan servir algoritmes que prenen den’opina cisions que després les persones no entenen ni saben explicar. No comporta això risc? Qui es responsabilitzarà d’aquestes decisions?
Aquí hi ha dues qüestions. La primera, fer que una maquina sigui explicable, i en això entra en joc la meva teoria de causa-efecte. No pots tenir un sistema que expliqui les seves recomanacions tret que la màquina tingui un model causal del món, que la màquina entengui quines són les implicacions de les decisions a la realitat, no només a nivell de dades. I avui el que tenim i s’utilitza són màquines de big data, que no entenen el món, només les dades, i aquest és l’obstacle més important que tenim actualment. Quan les màquines estiguin equipades per entendre la realitat tindrem un sistema explicable.
I respecte a la responsabilitat de les decisions de la IA?
És una combinació de responsabilitats. Si col·loques un model equivocat de la realitat en una màquina i, per exemple, la fas funcionar partint de forces sobrenaturals de manera que la seva recomanació per aconseguir que et facin un préstec sigui “veste’n a resar”, el responsable és el programador que ha assumit el risc de descriure la realitat en termes de forces sobrenaturals. Però, a més del model, cal aplicar la lògica correcta per connectar-lo amb les dades, de manera que són responsables tant qui proporciona el model de realitat com qui coneix la lògica que el connecta a les dades.
Vostè es deixaria cuidar per un robot o deixaria en mans d’una IA decisions sobre la feina o la salut?
Si el robot llegeix el meu llibre, sí.
I això?
Perquè la intel·ligència artificial causal és molt més transparent i entén les implicacions de les seves decisions.
I què poden fer els ciutadans per reduir els riscos que comporta l’expansió de sistemes d’intel·ligència artificial? Aprendre una mica de tecnologia. Totes les persones preocupades per les implicacions socials de la IA haurien d’aprendre filosofia de la ciència, epistemologia, com adquirim el coneixement, què ens fa creure que el que sabem és veritat, com podem comunicar el coneixement per tal de poder parlar de forma coherent.c
El prepandèmic 2019 el castell de Montjuïc va rebre prop de 900.000 visitants. És una xifra notable, més encara si es té en compte que l’entrada és de pagament. La irrupció de la covid, amb les fortes restriccions que va comportar, la va rebaixar considerablement els dos anys següents: 190.000 el 2020 i 385.000 el 2021. Abans la immensa majoria de les visites eren d’estrangers, un 85%, i només un 5% de barcelonins. Després, com altres equipaments, la caiguda del turisme va fer que el públic passés a ser en gran manera local, una tendència que ara, en plena recuperació –aquest 2022 es preveu una afluència de 700.000 persones–, es vol consolidar.
La fortalesa no ha tingut una relació fàcil amb la ciutat. Bombardejos, empresonaments i afusellaments
Els fons europeus Next Generation aportaran 3,7 milions d’euros per millorar la fortalesa
n’han marcat els tres convulsos segles d’història. Des que l’Ajuntament en va aconseguir la propietat, el 2007, s’ha buscat un canvi que capti l’interès de la ciutadania. Després del tancament, el 2009, del Museu Militar, s’han anat fent diverses actuacions de reparació i millora, seguint el pla director del 2010, a mesura que s’han tingut recursos. És el cas dels treballs que s’estan fent per impermeabilitzar la zona de la cortina frontal, per sobre del pont, entre els baluards de Sant Carles i Santa Amàlia.
Els fons europeus Next Generation permetran donar un important impuls a la posada al dia del castell. Entre els 21 projectes del Pla de Modernització i Competitivitat del Sector Turístic del 2022, dotats amb 50 milions d’euros que sortiran d’aquests recursos de la UE, 3,7 milions es destinaran a aquesta fortalesa.
Hi ha dues intervencions d’envergadura en cartera, una de tipus urbanístic centrada en la renovació de diversos espais del conegut com a “primer recinte” (la part central del castell) i una altra d’enfocada a la rehabilitació de part de les antigues casernes i del segon cos de guàrdia. Estan en fase de licitació les redaccions de tots dos projectes per valor de 51.451 i 20.084 euros, respectivament. La previsió és que estiguin a punt el segon trimestre de l’any que ve el primer i el quart trimestre el segon. Així, les obres podrien començar a finals del 2023 i a començaments del 2024.
L’actuació urbanística és una continuació d’altres intervencions semblants que s’han fet els
Licitada la redacció dels projectes per rehabilitar part de la caserna i el segon cos de guàrdia