Le plus grand expert en intelligence artificielle du Vatican qui conseille l'ONU et la Silicon Valley
Le frère Paolo Benanti porte le simple habit brun de son ordre franciscain fondé au Moyen Âge alors qu'il se penche sur l'une des questions les plus actuelles : comment gouverner l'intelligence artificielle (IA) de manière à ce qu'elle enrichisse - et non exploite - la vie des gens.
Paolo Benanti est la personne de référence du Vatican en matière de technologie et il conseille aussi bien le pape François que certains des plus grands ingénieurs et dirigeants de la Silicon Valley.
"La plus grande question de notre époque"
Avec une formation d'ingénieur, un doctorat en théologie morale et une passion pour ce qu'il appelle "l'éthique de la technologie", ce prêtre italien de 50 ans est investi d'une mission prioritaire qui préoccupe le pape. Ainsi, dans son message de paix annuel pour 2024, François a plaidé pour un traité international garantissant l'utilisation éthique de la technologie de l'intelligence artificielle.
L'intelligence artificielle risquet-elle de nous mener vers l'extinction ?
Dans une interview accordée à Associated Press au sein de l'Université pontificale grégorienne, où il enseigne des cours comme la théologie morale et la bioéthique aux étudiants se préparant à la prêtrise, Paolo Benanti a indiqué : "Quelle est la différence entre un homme qui existe et une machine qui fonctionne ? C'est peut-être la plus grande question de notre époque, parce que nous sommes témoins d'un défi qui devient chaque jour plus profond avec une machine qui s'humanise," a-t-il souligné.
Du Vatican aux Nations Unies en passant par Microsoft
Paolo Benanti est membre de l'organe consultatif des Nations Unies sur l'intelligence artificielle et dirige une commission du gouvernement italien chargée de formuler des recommandations sur la manière de protéger le journalisme des "fake news" et autres formes de désinformation.
Il est également consultant auprès de l'Académie pontificale pour la vie du Vatican.
Ce n'est pas un problème d'utilisation [de l'IA], mais un problème de gouvernance. Et c'est là que l'éthique entre en jeu - trouver le bon niveau d'utilisation dans un contexte social. Le franciscain Paolo Benanti
Paolo Benanti explique qu'il aide à "mieux clarifier les termes les plus techniques pour le Saint-Père" lors de leurs rencontres.
Ses connaissances se sont avérées utiles lors d'une réunion au Vatican en 2023 entre le pape François et Brad Smith, président de Microsoft, qui a porté sur la manière dont l'IA pourrait aider ou nuire à l'humanité.
Le souverain pontife et Brad Smith avaient également discuté de l'intelligence artificielle "au service du bien commun" lors d'une rencontre quelques années auparavant, selon le Vatican.
Dans le cadre d'une papauté très attentive à ceux qui vivent en marge de la société, le pape a clairement exprimé sa crainte que la technologie de l'IA ne limite les droits de l'homme en ayant, par exemple, un impact négatif sur la demande d'hypothèque de l'acheteur d'une maison, sur la demande d'asile d'un migrant ou sur l'évaluation de la probabilité de récidive d'un délinquant.
"Il est clair que si nous choisissons des données qui ne sont pas suffisamment inclusives, nous aurons des choix qui ne seront pas inclusifs," a déclaré Paolo Benanti, dont l'ordre religieux a été fondé au début du XIIIe siècle par saint François d'Assise, qui a renoncé aux richesses terrestres et a encouragé les oeuvres caritatives.
Etablir une coopération internationale sur l’intelligence artificielle est-elle possible ?
Microsoft a contacté Paolo Benanti pour la première fois il y a plusieurs années pour lui demander son avis sur la technologie, a indiqué le frère.
En 2023, Brad Smith a réalisé un podcast avec lui à Rome, décrivant le prêtre comme apportant au débat sur l'IA "l'une des combinaisons les plus fascinantes au monde" en termes d'expérience en ingénierie, d'éthique et de technologie.
Trouver les bonnes utilisations de l'IA
Paolo Benanti, qui était à un an d'obtenir son diplôme d'ingénieur à l'université de Rome "La Sapienza" lorsqu'il a abandonné ses études, mais également rompu avec sa petite amie, pour rejoindre les Franciscains à l'âge de 20 ans, a décrit comment l'IA pourrait être un "outil vraiment puissant" pour réduire le coût de la médecine et permettre aux médecins d'aider davantage de personnes.
Mais il a également décrit les implications éthiques d'une technologie qui pourrait avoir les mêmes capacités qu'un être humain, voire plus.
"Ce n'est pas un problème d'utilisation [de l'IA], mais un problème de gouvernance," a déclaré le frère, "et c'est là que l'éthique entre en jeu : trouver le bon niveau d'utilisation dans un contexte social."
L'UE s'accorde sur une régulation historique de l'intelligence artificielle
Paolo Benanti a fait remarquer qu'une grande partie des données qui alimentent l'IA sont fournies par des travailleurs mal payés, souvent dans des pays en développement marqués par l'histoire du colonialisme et de l'exploitation de la main-d'oeuvre.
"Je ne veux pas que l'on se souvienne de cette époque comme de celle où nous avons exploité des ressources cognitives du Sud," a-t-il déclaré.
Si l'on examine "les meilleurs outils que nous produisons dans le domaine de l'IA" dans les pays occidentaux, on s'aperçoit qu'elle est "formée par des travailleurs souspayés issus d'anciennes colonies anglophones" selon ses termes.
La manière de gouverner l'IA est une question que les pays du monde entier tentent de résoudre. L'Union européenne a fait figure de pionnière à la fin de l'année dernière, lorsque les négociateurs ont conclu un accord qui ouvre la voie à un contrôle juridique de cette technologie.
En Italie, la Première ministre Giorgia Meloni, qui craint que l'IA n'entraîne des pertes d'emplois, fera de cette technologie un thème central du sommet du G7 qui se tiendra cette année en Italie.
L'IA aura un impact sur 40% des emplois dans le monde, selon la directrice générale du FMI
Dans le cadre de ces efforts, Giorgia Meloni a rencontré jeudi dernier, le fondateur de Microsoft, Bill Gates, en visite à Rome, une rencontre à laquelle Paolo Benanti a assisté.
Pour sa part, le frère a déclaré à AP que réglementer l'intelligence
artificielle ne devrait pas signifier limiter son développement. "Il s'agit de veiller à ce qu'elle reste compatible avec ce système fragile qu'est la démocratie, qui semble aujourd'hui être le meilleur système," a fait remarquer Paolo Benanti.