Le plus grand expert en intelligence artificielle du Vatican qui conseille l'ONU et la Silicon Valley
Le frère Paolo Benanti porte le simple habit brun de son ordre franciscain fondé au Moyen Âge alors qu'il se penche sur l'une des questions les plus actuelles : comment gouverner l'intelligence artificielle (IA) de manière à ce qu'elle enrichisse - et non exploite - la vie des gens.
Paolo Benanti est la personne de référence du Vatican en matière de technologie et il conseille aussi bien le pape François que certains des plus grands ingénieurs et dirigeants de la Silicon Valley.
"La plus grande question de notre époque"
Avec une formation d'ingénieur, un doctorat en théologie morale et une passion pour ce qu'il appelle "l'éthique de la technologie", ce prêtre italien de 50 ans est investi d'une mission prioritaire qui préoccupe le pape. Ainsi, dans son message de paix annuel pour 2024, François a plaidé pour un traité international garantissant l'utilisation éthique de la technologie de l'intelligence artificielle.
L'intelligence artificielle risquet-elle de nous mener vers l'extinction ?
Dans une interview accordée à Associated Press au sein de l'Université pontificale grégorienne, où il enseigne des cours comme la théologie morale et la bioéthique aux étudiants se préparant à la prêtrise, Paolo Benanti a indiqué : "Quelle est la différence entre un homme qui existe et une machine qui fonctionne ? C'est peut-être la plus grande question de notre époque, parce que nous sommes témoins d'un défi qui devient chaque jour plus profond avec une machine qui s'humanise," a-t-il souligné.
Du Vatican aux Nations Unies en passant par Microsoft
Paolo Benanti est membre de l'organe consultatif des Nations Unies sur l'intelligence artificielle et dirige une commission du gouvernement italien chargée de formuler des recommandations sur la manière de protéger le journalisme des "fake news" et autres formes de désinformation.
Il est également consultant auprès de l'Académie pontificale pour la vie du Vatican.
Ce n'est pas un problème d'utilisation [de l'IA], mais un problème de gouvernance. Et c'est là que l'éthique entre en jeu - trouver le bon niveau d'utilisation dans un contexte social. Le franciscain Paolo Benanti
Paolo Benanti explique qu'il aide à "mieux clarifier les termes les plus techniques pour le Saint-Père" lors de leurs rencontres.
Ses connaissances se sont avérées utiles lors d'une réunion au Vatican en 2023 entre le pape François et Brad Smith, président de Microsoft, qui a porté sur la manière dont l'IA pourrait aider ou nuire à l'humanité.
Le souverain pontife et Brad Smith avaient également discuté de l'intelligence artificielle "au service du bien commun" lors d'une rencontre quelques années auparavant, selon le Vatican.
Dans le cadre d'une papauté très attentive à ceux qui vivent en marge de la société, le pape a clairement exprimé sa crainte que la technologie de l'IA ne limite les droits de l'homme en ayant, par exemple, un impact négatif sur la demande d'hypothèque de l'acheteur d'une maison, sur la demande d'asile d'un migrant ou sur l'évaluation de la probabilité de récidive d'un délinquant.
"Il est clair que si nous choisissons des données qui ne sont pas suffisamment inclusives, nous aurons des choix qui ne seront pas inclusifs," a déclaré Paolo Benanti, dont l'ordre religieux a été fondé au début du XIIIe siècle par saint François d'Assise, qui a renoncé aux richesses terrestres et a encouragé les oeuvres caritatives.
Etablir une coopération internationale sur l’intelligence artificielle est-elle possible ?
Microsoft a contacté Paolo Benanti pour la première fois il y a plusieurs années pour lui demander son avis sur la technologie, a indiqué le frère.
En 2023, Brad Smith a réalisé un podcast avec lui à Rome, décrivant le prêtre comme apportant au débat sur l'IA "l'une des combinaisons les plus fascinantes au monde" en termes d'expérience en ingénierie, d'éthique et de technologie.
Trouver les bonnes utilisations de l'IA
Paolo Benanti, qui était à un an d'obtenir son diplôme d'ingénieur à l'université de Rome "La Sapienza" lorsqu'il a abandonné ses études, mais également rompu avec sa petite amie, pour rejoindre les Franciscains à l'âge de 20 ans, a décrit comment l'IA pourrait être un "outil vraiment puissant" pour réduire le coût de la médecine et permettre aux médecins d'aider davantage de personnes.
Mais il a également décrit les implications éthiques d'une technologie qui pourrait avoir les mêmes capacités qu'un être humain, voire plus.
"Ce n'est pas un problème d'utilisation [de l'IA], mais un problème de gouvernance," a déclaré le frère, "et c'est là que l'éthique entre en jeu : trouver le bon niveau d'utilisation dans un contexte social."
L'UE s'accorde sur une régulation historique de l'intelligence artificielle
Paolo Benanti a fait remarquer qu'une grande partie des données qui alimentent l'IA sont fournies par des travailleurs mal payés, souvent dans des pays en développement marqués par l'histoire du colonialisme et de l'exploitation de la main-d'oeuvre.
"Je ne veux pas que l'on se souvienne de cette époque comme de celle où nous avons exploité des ressources cognitives du Sud," a-t-il déclaré.
Si l'on examine "les meilleurs outils que nous produisons dans le domaine de l'IA" dans les pays occidentaux, on s'aperçoit qu'elle est "formée par des travailleurs souspayés issus d'anciennes colonies anglophones" selon ses termes.
La manière de gouverner l'IA est une question que les pays du monde entier tentent de résoudre. L'Union européenne a fait figure de pionnière à la fin de l'année dernière, lorsque les négociateurs ont conclu un accord qui ouvre la voie à un contrôle juridique de cette technologie.
En Italie, la Première ministre Giorgia Meloni, qui craint que l'IA n'entraîne des pertes d'emplois, fera de cette technologie un thème central du sommet du G7 qui se tiendra cette année en Italie.
L'IA aura un impact sur 40% des emplois dans le monde, selon la directrice générale du FMI
Dans le cadre de ces efforts, Giorgia Meloni a rencontré jeudi dernier, le fondateur de Microsoft, Bill Gates, en visite à Rome, une rencontre à laquelle Paolo Benanti a assisté.
Pour sa part, le frère a déclaré à AP que réglementer l'intelligence
artificielle ne devrait pas signifier limiter son développement.
"Il s'agit de veiller à ce qu'elle reste compatible avec ce système fragile qu'est la démocratie, qui semble aujourd'hui être le meilleur système," a fait remarquer Paolo Benanti.
peu négatifs - Manuka Honey et moi-même avons été traités de partisans du Hamas et de terroristes -, ils ont fermé la section des commentaires.
CTM n'utilisera jamais cette [annulation] contre moi. S'ils veulent faire appel à moi à nouveau à l'avenir, ils le feront. Mais disons que Berghain, qui est évidemment une entité distincte, pourrait, pour une raison ou une autre, me mettre sur sa liste noire. Mais cela m'empêcherait pas de dormir, car être sur la liste noire d'un club, cela n'est rien en comparaison du fait de ne pas savoir si l'on va être bombardé. Mon manager a été un peu nerveux, mais je ne sais pas si je peux être plus prudente en disant que cela va à l'encontre de la liberté artistique. Les promoteurs ne gèrent pas tous la situation de la même manière. Je pense qu'ils ont bien géré la situation."
"Les artistes ont-ils la responsabilité de s'exprimer ?"
"Absolument. Je pense que c'est toujours ce que j'ai dit au fil des ans, parce que comme j'ai maintenant une plateforme très suivie, je pense que beaucoup de gens voient peut-être pour la première fois que je m'exprime sur quelque chose, alors qu'en réalité, je m'exprime depuis très longtemps, qu'il s'agisse du gouvernement britannique ou des manifestations d'agriculteurs en Inde - je n'hésite pas à dire ce que je pense de [Narendra] Modi -. Je parle beaucoup de l'État, mais je viens aussi d'un milieu politique, ce que beaucoup de gens semblent ignorer, même si on en parle souvent dans les interviews et autres échanges avec la presse.
Il s'agit presque d'un hobby pour moi. J'ai un intérêt naturel pour la politique mondiale et quand j'en parle, je ne le fais pas en tant que Jyoty, l'artiste. J'en parle simplement en tant qu'humain. Je pense qu'il faut vraiment comprendre que, même si je saisis parfaitement et valide le sentiment que quelqu'un peut avoir quand des personnes disposant d'une plateforme ou d'une tribune publique dans le monde de l'art, du sport ou autre, s'expriment sur l'injustice, nous devons toujours nous rappeler pourquoi nous avons rendu ces personnes célèbres en premier lieu. Est-ce parce qu'on les a aimées en tant que footballeur ou pour leur musique ? On doit maintenant attendre d'elles quelque chose qu'elles n'ont jamais eu l'occasion de faire dans ce monde. Nous devons également nous demander pourquoi nous considérons les artistes, les footballeurs et les acteurs comme des boussoles politiques et morales."
"Que peuvent faire les gens pour changer les choses ?"
"Nous vivons à l'ère des médias sociaux, alors si vous voulez soutenir une cause dès maintenant, que ce soit pour les Palestiniens ou les populations du Congo ou du Soudan, agissez.
Je pense qu'aussi désagréable que puisse être le monde en ligne, c'est aussi là que vous trouvez des groupes pour vous mobiliser et ce qui peut être votre monde. Il existe tellement de façons de soutenir des causes, vous savez. Il y a les conversations inconfortables, les gens qui se posent des questions sur leur lieu de travail et qui demandent simplement : "Mais pourquoi ?" Il faut apprécier d'avoir des conversations inconfortables et vivre des moments inconfortables, que l'on soit étudiant, que l'on travaille de 9h à 17h ou que l'on soit sur scène avec un micro à la main.
Une manière de montrer son soutien, c'est d'engager la conversation. Et même si cela consiste à dire : "Hé, je ne comprends pas grand-chose, mais je suis prêt à apprendre". Je pense que nous nous trouvons actuellement dans une situation où il existe un fossé insensé entre les personnes qui s'expriment avec force, ce qui est toujours une bonne chose, et celles qui se détournent totalement de ce qui se passe. Mais pourquoi ne pouvons-nous pas trouver un juste milieu ? Si le soutien à telle ou telle cause augmente, c'est parce que les gens en parlent. Je pense aussi que les gens ne comprennent pas que toutes les avancées enregistrées sans cesse au niveau mondial se font parce que tout le monde en parle."