Dr Jekyll ou Mr Hyde?

L’intelligence artificielle pose autant de questions qu’elle en résout

Dr Jekyll ou Mr Hyde ? L’allégorie de Robert Louis Stevenson sur le dédoublement de la personnalité tiraillée entre le bien et le mal pourrait bien servir de support au thème star de l’innovation, l’IA. L’intelligence artificielle n’en finit plus de faire parler d’elle. Ce progrès technologique ouvre des perspectives inégalées pour les uns, mais c’est aussi une révolution chargée de risques et périls pour les autres. Opportunités ou dangers, intelligence logicielle contre intelligence biologique, robots versus humains, Jekyll face à Hyde. Car l’IA est loin de faire consensus. Jusque dans sa définition. De quoi parle-on et que contient ce buzzword du moment ? Il y a probablement autant de définitions que d’ouvrages sur le sujet. Au-delà de l’académisme, il faut surtout retenir un élément clé pour comprendre le concept : “l’IA est LA nouvelle vague logicielle des prochaines décennies”, résume le consultant Olivier Ezratty. Voilà à quoi nous avons donc à faire : du logiciel, avec à la clé de multiples nouveaux services et applications, pour le grand public comme pour l’entreprise. Plus précisément, l’IA fait partie de cette grande révolution technologique débutée il y a une vingtaine d’années et que nous traversons encore aujourd’hui, celle de l’informatique, des télécoms, de l’Internet et des nano et biotechnologies...

Dr Jekyll ou Mr Hyde? L’allégorie de Robert Louis Stevenson sur le dédoublement de la personnalité tiraillée entre le bien et le mal pourrait bien servir de support au thème star de l’innovation, l’IA. L’intelligence artificielle n’en finit plus de faire parler d’elle. Ce progrès technologique ouvre des perspectives inégalées pour les uns, mais c’est aussi une révolution chargée de risques et périls pour les autres. Opportunités ou dangers, intelligence logicielle contre intelligence biologique, robots versus humains, Jekyll face à Hyde.

La prochaine vague logicielle

Car l’IA est loin de faire consensus. Jusque dans sa définition. De quoi parle-on et que contient ce buzzword du moment ? Il y a probablement autant de définitions que d’ouvrages sur le sujet. Au-delà de l’académisme, il faut surtout retenir un élément clé pour comprendre le concept: “l’IA est LA nouvelle vague logicielle des prochaines décennies”, résume le consultant Olivier Ezratty. Voilà à quoi nous avons donc à faire : du logiciel, avec à la clé de multiples nouveaux services et applications pour le grand public comme pour l’entreprise. Plus précisément, l’IA fait partie de cette grande révolution technologique débutée il y a une vingtaine d’années et que nous traversons encore aujourd’hui, celle de l’informatique, des télécoms, de l’Internet et des nano et biotechnologies. Par extension et dans un second temps probablement, l’intelligence artificielle transformera le vivant, et donc l’homme lui-même. Nous n’avons pas fini d’entendre parler du sujet puisqu’à terme, la vague logicielle investira ainsi les êtres vivants jusque dans leur corps et leur esprit. Sans surprise, le marché de l’intelligence artificielle connaît depuis 5 ans une accélération inédite, qui s’explique notamment par une grande quantité de données disponibles gratuitement ou à très bas coûts, des puissances de calcul des ordinateurs de plus en plus importantes, et enfin le développement continu de nouvelles méthodes algorithmiques comme l’apprentissage profond, ou deep learning. Signe le plus mesurable de cette dynamique, la multiplication du nombre de start-up du secteur à l’échelle mondiale et l’explosion des investissements. En 2016, plus de 1 600 jeunes pousses spécialisées en intelligence artificielle étaient recensées dans le monde par la plateforme d’intelligence économique CBInsights. Depuis 2012, les investissements dans les start-up spécialisées dans ces technologies ne cessent de croître, passant en 5 ans de 415 millions de dollars à 5 milliards de dollars. À horizon 2030, le cabinet d’études PwC chiffre les gains de l’IA pour l’économie mondiale à plus de 15 000 milliards de dollars, ce qui souligne le potentiel de création de valeur considérable lié à cette innovation.

Santé, mobilité, et services financiers

Qu’attendre de l’IA ? À court terme, essentiellement des gains de productivité. Cette nouvelle vague logicielle permettra en effet aux entreprises d’automatiser certaines tâches routinières, de renforcer les compétences de leurs salariés ou de leur libérer du tempsp pourp se consacrer à des tâches à plus forte valeur ajoutée. À plus ou moins long terme, la dynamique sera portée par une demande croissante de produits et services dits “intelligents”. Certains secteurs ou activités sont ou seront plus concernés que d’autres. PwC identifie trois domaines particulièrement sensibles au phénomène : la santé, la mobilité et les services financiers.

“Dans la santé, l’utilisation des technologies d’IA permet de soigner mieux tout en faisant réaliser des économies à la puissance publique. Nous passerons d’une médecine préventive à une médecine prédictive”, prévient la députée Laure de la Raudière à l’occasion d’un forum parlementaire. Les univers des biotechs et de la pharmacie, du fait qu’ils manipulent beaucoup de données, sont des candidats naturels à l’IA. Le marché attire de nombreuses start-up comme la française Iktos, créée en 2016, qui utilise du deep learning pour réaliser des simulations biologiques de l’effet de médicaments sur l’ADN. Autre promesse: l’aide au diagnostic et à la détection de pathologies grâce à l’imagerie médicale ou à l’optimisation des traitements par l’analyse des très nombreuses études scientifiqques. Un hôpital de Cleveland aux États-Unis s’appuie sur le logiciel d’IA Watson d’IBM pour des diagnostics sur le cancer. Il pioche notamment dans les 44000 nouvelles publications scientifiques annuelles sur la maladie. L’IA ouvre ainsi la voie à une santé pplus personnalisée. À terme, les bénéfices pour les patients et la collectivité seront une meilleure prise en charge et des vies épargnées. Les secteurs du transport et de la mobilité vont également largement bénéficier des progrès de l’IA. Les systèmes embarqués existent déjà dans de nombreux véhicules : dans les métros automatiques, comme les lignes 1 et 14 à Paris, dans les avions qui volent le plus souvent en pilote automatique. La prochaine vague logicielle démocratisera l’automatisation et l’aide à la conduite. Dans les transports collectifs d’une part, comme avec les minibus autonomes du français Navya testés dans le bois de Vincennes, mais aussi dans le transport individuel. Tesla est l’un des industriels les plus avancés sur le sujet. Le nouvel entrant incitant les constructeurs traditionnels – Ford, Volvo, Renault-Nissan ou BMW notamment – à entrer dans la course aux systèmesy embarquésq innovants. À la clé, des fonctionnalités nouvelles comme le parking automatique, la maintenance prédictive et bien sûr la conduite plus ou moins autonome. Le logiciel prend ainsi littéralement le volant pour le pilotage sur voie rapide, le maintien des distances de sécurité ou le freinage d’urgence. Nul besoin d’être grand clerc pour imaginer les bénéfices induits par cette nouvelle génération de logiciels : baisse des accidents, optimisation de la consommation et des parcours ou augmentation de la productivité des conducteurs, qui ne “perdront” plus leur temps à conduire. Mais les logiciels d’IA peuvent aller plus loin, jusqu’à “disrupter” les modes de transport actuels. La start-up

L’intelligence artificielle connaît une accélération inédite, qui s’explique par une grande quantité de données disponibles gratuitement ou à très bas coûts, des puissances de calcul de plus en plus importantes, et le développement continu de nouvelles méthodes algorithmiques comme l’apprentissage profond, ou deep learning. “L’IA est la clé de tous les pouvoirs. Pouvoir économique, technologique, scientifique, social, militaire”. Il y a manifestement un prix à payer en économie, dans le domaine de l’emploi ou encore dans celui de l’éducation.

française Karos, hébergée à la station F à Paris, affiche cette ambition. “Grâce à l’IA, nous transformons des véhicules individuels en réseau de

transport collectif” explique Olivier Binet, son président, lequel rappelle qu’avec 1,1 personne par véhicule en moyenne en Ile-de-France, ce ne sont pas moins de 40 millions de sièges libres quotidiennement à disposition des Franciliens. La technologie permet de transformer ces places en solutions de mobilité supplémentaires. La finance et la bancassurance ne sont pas en reste et misent sur la technologie pour l’automatisation de la relation client – ce que fait l’application mobile d’Orange Bank –, l’optimisation de la gestion financière ou encore la détection de la fraude et du risque. D’autres secteurs sont concernés comme l’industrie pour le contrôle qualité, l’agriculture pour l’optimisation des ressources ou la robotisation des exploitations, ou encore le commerce avec les chatbots par exemple, ces outils soi-disant au service de l’amélioration de la relation client…

Un enjeu de souveraineté

“L’IA est la clé de tous les pouvoirs. Pouvoir économique, technologique, scientifique, social, militaire. L’IA est d’abord un sujet politique et si nous voulons avoir une petite chance d’avoir une petite place dans ce nouveau monde, il faut arrêter de se mentir.” Laurent Alexandre, le spécialiste des révolutions technologiques, nous aura prévenus. Mais la situation est-elle à ce point catastrophique? Ce qui est sûr, c’est que l’IA suscite autant d’espoirs que d’inquiétudes. Il y a manifestement un prix à payer en économie, dans le domaine de l’emploi ou encore dans celui de l’éducation. Sur le plan économique d’abord, plusieurs gouvernements ont récemment porté le sujet de l’IA dans le débat public et lancé de grandes initiatives nationales. La Corée du Sud a annoncé un plan doté de 800 millions de dollars d’investissement sur 5 ans. La Chine a elle aussi son programme public et incite fortement les acteurs du privé à investir sur dans la recherche logicielle, comme Baidu ou Alibaba. Au Japon, l’ouverture de plusieurs centres de recherche en IA fondamentale et appliquée en 2016, avec des investissements de plusieurs centaines de millions de dollars, témoigne de l’intérêt prioritaire du gouvernement japonais. En France, les institutions se sont emparées des enjeux de l’IA. Le député LREM Cédric Villani, mathématicien reconnu, prépare un énième rapport sur le sujet… On retient surtout de ces initiatives le risque pour le pays de se faire distancer rapidement sur un terrain où la suprématie est assurée à l’heure actuelle par les grandes entreprises américaines et asiatiques. “Le budget de l’Inria [Institut national de recherche en informatique et en automatique] est de 230 millions d’euros annuels, dont quelques miettes dans l’IA. Alibaba est en train de dépenser 15 milliards dans l’IA !”, se désespère Laurent Alexandre. La nouvelle vague logicielle met ainsi en évidence le risque de dépendances économiques visà-vis de détenteurs de certaines technologies critiques ou, ce qui est plus nouveau, de détenteurs de gros volumes de données. “La mainmise d’entreprises américaines et chinoises sur les grands services Internet, les données qu’ils génèrent et les algorithmes qui les font fonctionner posent de grands problèmes. Le destin de nos nations peut-il nous échapper ?”, s’interroge Laure de la Raudière. Poser la question permet de pointer du doigt l’enjeu de souveraineté auquel nous sommes confrontés. Ce risque met en exergue l’impérieuse nécessité de réflexions et d’actions au niveau européen, seule échelle pertinente pour réussir dans l’IA.

Les impacts sur l’emploi

Sur sa dimension sociale, la grande peur concerne l’emploi. Certains prédisent, à tort, la fin d’un travail sacrifié sur l’autel de l’automatisation. Dans son désormais best-seller

‘La guerre des intelligences’*, Laurent Alexandre rappelle l’observation de l’économiste Alfred Sauvy : “Ne vous plaignez pas que le progrès technique détruise des emplois, il est fait pour

cela”. La quasi-totalité des emplois qui existaient en 1800 – dont 80 % dans l’agriculture – ont disparu. Les hommes ont-ils pour autant arrêté de travailler ? Manifestement pas. En revanche, les impacts de l’IA sur l’emploi sont une source légitime d’inquiétudes. La plupart des études montrent qu’une proportion significative des emplois actuels pourrait être automatisée à un degré plus ou moins important. Elles illustrent également la difficulté d’établir des prévisions. Les experts s’accordent en revanche pour considérer que l’IA va transformer profondément les métiers et les activités dans les années à venir. Le cabinet de conseil McKinsey estime que 60 % des emplois actuels comprennent 30 % d’activités automatisables à une échéance de 20 à 40 ans. De nouveaux métiers vont apparaître, non seulement autour de la production de l’IA en tant que telle, mais également pour répondre à des besoins connexes (maintenance, médiation, création assistée, etc.). De nombreux emplois pourraient ainsi se créer sous l’effet de l’utilisation grandissante d’outils de l’IA.

La rénovation de l’éducation et de la formation

Sur l’éducation et la formation enfin, tout est-il à revoir ? D’abord, le développement logiciel entraîne évidemment de nouveaux besoins de nouveaux profils tels que des “data scientists” ou “des knowledge engineers”. “Le fuel de l’IA est la data. La principale problématique des entreprises est donc de gérer la donnée, rappelle Laurent Stefani, directeur de l’intelligence artificielle au sein d’Accenture Technology en France. Or pour les organisations, ce n’est pas facile car elles doivent former les collaborateurs à travailler dans ce nouvel environnement.” Ensuite, l’IA implique la création de nouveaux métiers spécialisés. L’offre de formation continue devra aussi évoluer et s’élargir pour permettre

aux citoyens des reconversions, des mises à niveaux, ou l’invention de nouvelles activités au rythme des innovations. Laurent Alexandre va plus loin : “Attention à ne pas industrialiser l’IA sans démocratiser l’intelligence biologique”. Et le médecin de formation de proposer de repenser contenus et transmission du savoir et de sur-investir dans l’école et l’enseignement. “Si nous voulons éviter une crise entre des cerveaux artificiels qui galopent et des cerveaux biologiques qui rament, il est urgent de commencer à rénover l’école. Nous devons démocratiser l’intelligence biologique, sinon nous risquons de subir un apartheid intellectuel”, plaide-t-il.

Les problématiques juridiques

Ces nouvelles technologies s’accompagnent également de leur lot de problématiques juridiques. La performance de logiciels d’IA dépendant en grande partie des masses de données disponibles, se pose la question de la propriété de ces données. Or nombres d’entre elles sont fournies – souvent gratuitement – par des utilisateurs. La fin programmée de la donnée privée pose la question de la fin des souverainetés individuelles. Le nouveau règlement européen sur la protection des données personnelles (RGPD), qui entrera en application en mai 2018, doit répondre en partie à ces problématiques. Un autre grand débat a cours au sujet de responsabilité de l’IA. L’exemple le plus connu est celui de la gestion des dilemmes par les véhicules autonomes en cas d’accident, lorsqu’il leur faudra choisir entre plusieurs formes d’accidents et de dommages corporels. La mort certaine du conducteur, de ses passagers ou plutôt de personnes dans un autre véhicule ou sur le trottoir. Et dans ce cas-là, mieux vaut-il épargner les enfants ou les adultes ? Reconnaître une personnalité juridique des machines utilisant l’IA est une des pistes innovantes qui parcourent le débat public. Certains juristes militent en faveur de l’adoption d’un droit des robots. Il existe même une association qui souhaite les doter d’une personnalité juridique particulière et d’un droit à la dignité. Pourtant, selon le député Claude de Ganay, auteur d’un rapport sur le sujet, “il est urgent d’attendre en la matière. La personnalité juridique des robots n’est pas une question qui mérite d’être posée à ce stade, il n’y a actuellement pas de vide juridique à combler à court terme”. Pourtant, l’Estonie a récemment décidé de se lancer dans l’établissement d’une législation permettant aux robots d’obtenir un statut juridique à part, à mi-chemin entre l’homme et l’objet.

Devoir de pédagogie

La crainte d’une intelligence artificielle qui échapperait au contrôle de l’homme est l’une des angoisses majeures devant l’essor de ces technologies. Comment garantir que l’IA puisse être maîtrisée, utile et conforme à nos valeurs ? Sécurité des intelligences, contrôle des humains et désactivations, bien commun et bénéfices collectifs ou encore défense des robots tueurs, les questions ne manquent pas, jusqu’au transhumanisme bien sûr, travaillant à une amélioration de la nature de l’homme grâce aux progrès de la miniaturisation et aux évolutions notamment logicielles. En ligne de mire, la rupture dite de la “singularité technologique”, appelée aussi plus simplement singularité, est le nom que des écrivains et des chercheurs en intelligence artificielle ont donné au passage de l’IA faible à l’IA forte. La singularité représente un tournant hypothétique supérieur dans l’évolution technologique, dont l’intelligence artificielle serait le ressort principal jusqu’à nuire à l’être humain. L’enjeu est clairement politique. Le défi est de taille, comme le résume Cédric Villani: “Si les enjeux de l’IA ne sont pas suffisamment bien expliqués à nos concitoyens, un phénomène de rejet ne sera pas à exclure. C’est même un vrai risque car à coup sûr, des vents contraires émergeront. Le politique doit donc être particulièrement attentif à éviter ces dérives. Nous avons un rôle de pédagogie car derrière l’explication, il y a un enjeu d’acception”. * Laurent Alexandre “La guerre des intelligences. Intelligence Artificielle versus Intelligence Humaine”, JC Lattès, octobre 2017

“Si nous voulons éviter une crise entre des cerveaux artificiels qui galopent et des cerveaux biologiques qui rament, il est urgent de commencer à rénover l’école”