A.I., Aïe, Aïe !

Les Affaires - - Entreprene­uriat - Chro­nique

ri Schle­sin­ger s’est fait une nou­velle amie l’an der­nier, Zo. Cette der­nière est un ro­bot conver­sa­tion­nel ( chat­bot) mis au point en 2016 par Mi­cro­soft, à sa­voir un ro­bot de com­pa­gnie fé­mi­nin avec qui l’on peut dis­cu­ter en ligne de tout et de rien, des heures du­rant, le jour comme la nuit. Les échanges sont par­fois si pro­fonds que les uti­li­sa­teurs en ar­rivent à ou­blier que Zo n’est pas un être hu­main...

L’Amé­ri­caine ne fai­sait pas que ba­var­der avec Zo ; elle lui de­man­dait aus­si, à l’oc­ca­sion, de lui faire écou­ter de la « bonne mu­sique », et si pos­sible, de nou­veaux groupes. Jus­qu’au jour où elle a sour­cillé : la « bonne mu­sique » consis­tait sys­té­ma­ti­que­ment en des groupes de mu­si­ciens blancs ; un choix étrange, car la jeune femme a des goûts mu­si­caux éclec­tiques.

Il se trouve que Mme Schle­sin­ger n’est pas n’im­porte qui. Elle est une étu­diante douée en in­tel­li­gence ar­ti­fi­cielle (IA) du Geor­gia Ins­ti­tute of Tech­no­lo­gy, à At­lan­ta, aux États-Unis. Et elle a eu l’idée, en toute lo­gique, d’une drôle d’ex­pé­rience...

Un beau jour de sep­tembre 2017, elle a in­ver­sé les rôles : elle a fait écou­ter à Zo un mor­ceau du groupe élec­tro­nique on­ta­rien A Tribe cal­led Red, dont les trois membres sont au­toch­tones. Puis, elle lui a de­man­dé ce qu’elle en pen­sait.

Dans un pre­mier temps, Zo s’est mon­trée em­bar­ras­sée, n’osant pas se pro­non­cer ou­ver­te­ment sur cette mu­sique-là. Mais à force d’être ques­tion­née par l’Amé­ri­caine, elle a fi­ni par lâ­cher qu’à ses yeux, c’était de la mu­sique de « ka­wish » (un nom in­sul­tant pour les Au­toch­tones). La conclu­sion sau­tait aux yeux: Zo était ra­ciste!

Pas prag­ma­tique

Com­ment ex­pli­quer ça ? Mme Schle­sin­ger s’est pen­chée sur le pro­blème avec deux ex­perts en in­ter­ac­tion hu­main-ro­bot in­tel­li­gent et vient tout juste de dé­cou­vrir que ce pré­ju­gé ré­sul­tait de la ma­nière dont Zo – « et n’im­porte quel autre chat­bot » – ap­pre­nait à par­ler. « Les ro­bots in­tel­li­gents ap­prennent les langues grâce à un champ scien­ti­fique qui com­bine lin­guis­tique, informatiq­ue et IA, le trai­te­ment au­to­ma­tique du lan­gage na­tu­rel (TALN). Le hic, c’est qu’ils ap­prennent ain­si à maî­tri­ser la syn­taxe (la gram­maire) et la sé­man­tique (la si­gni­fi­ca­tion), mais pas la prag­ma­tique (le contexte) », a-t-elle ex­pli­qué lors du CHI 2018, un évé­ne­ment qui a réuni, la se­maine der­nière à Mon­tréal, plus de 3 300 cher­cheurs et en­tre­pre­neurs spé­cia­li­sés en IA.

Voi­là pour­quoi Zo en ar­rive à clas­ser les groupes de mu­sique au­toch­tones dans la ca­té­go­rie « ka­wish » sans bron­cher. « D’un point de vue de syn­taxe et de sé­man­tique, un tel clas­se­ment est va­lable. Mais le contexte fait qu’une telle ca­té­go­ri­sa­tion est ré­vol­tante », a-t-elle sou­li­gné.

En consé­quence, il fau­drait ré­ap­prendre à par­ler à tous les ro­bots in­tel­li­gents doués de la pa­role! Car ils sont ten­dan­cieux, et par­ti­cu­liè­re­ment ra­cistes. Ce qui est gra­vis­sime. Un exemple frap­pant me vient à l’es­prit : au­jourd’hui, nombre d’en­tre­prises se veulent à la fine pointe tech­no­lo­gique en fai­sant ap­pel à l’IA pour trier les CV re­çus lors­qu’elles ouvrent un poste. Se pour­rait-il que ces ro­bots in­tel­li­gents classent, sans le dire, les CV des Au­toch­tones dans la ca­té­go­rie « ka­wish » ? Et ceux des Noirs? Et ceux des Asia­tiques?

Ama­teurs de bit­coin, as­seyez-vous

C’est clair, l’IA a de nos jours des im­pacts po­ten­tiel­le­ment ca­tas­tro­phiques que l’on ne soup­çonne même pas. J’ai d’ailleurs un se­cond cas in­croyable à vous dé­voi­ler, di­vul­gué lui aus­si lors du CHI 2018. Ama­teurs de bit­coin, as­seyez-vous avant de lire ce qui suit...

Pe­ter Krafft est cher­cheur au MIT Me­dia Lab à Bos­ton (États-Unis). Avec deux col­lègues, il s’est de­man­dé pour­quoi la va­leur des cryp­to­mon­naies jouait sans cesse au yo-yo (en 2017, la vo­la­ti­li­té moyenne an­nua­li­sée du bit­coin a at­teint le pour­cen­tage ren­ver­sant de 73%, se­lon Coin­desk). Il s’est do­té de 217 ro­bots in­tel­li­gents et leur a ap­pris d’une part à sur­veiller l’évo­lu­tion des cours sur la pla­te­forme Crypt­sy (au­jourd’hui fer­mée, mais à l’époque la troi­sième plus im­por­tante du monde en ma­tière de vo­lume d’échanges) et, d’autre part, à y vendre et ache­ter des cryp­to­mon­naies. Puis, il leur a dit d’agir de ma­nière aléa­toire, à rai­son d’une vente, d’un achat ou d’une ab­sence d’ac­tion toutes les 15, 30 ou 60 mi­nutes, et ce, du­rant six mois.

Ré­sul­tats? Te­nez-vous bien: Chaque fois que ses ro­bots ache­taient, la pro­ba­bi­li­té que la ten­dance du mar­ché soit à l’achat était de 30% dans le quart d’heure qui sui­vait, soit 2 points de pour­cen­tage de plus que la nor­male. Ce qui est énorme. Chaque fois que ses ro­bots ache­taient, le vo­lume glo­bal des achats ef­fec­tués sur le mar­ché était en gé­né­ral mul­ti­plié par 500 dans le quart d’heure qui sui­vait. Ce qui est pu­re­ment as­tro­no­mique.

« Beau­coup de tran­sac­tions sur ces mar­chés sont ef­fec­tuées par des ro­bots in­tel­li­gents, a-t-il dit. Or, nous avons dé­cou­vert qu’ils s’influencen­t les uns les autres, étant pro­gram­més pour être hy­per­sen­sibles aux va­ria­tions in­at­ten­dues comme l’étaient nos in­ter­ven­tions aléa­toires. » Au­tre­ment dit, ses ro­bots étaient à même de ma­ni­pu­ler le mar­ché. Ni plus ni moins. Une chance qu’il n’était pas mal in­ten­tion­né...

L’IA pré­tend rendre le monde meilleur, mais pour l’heure, il ne fait que le fra­gi­li­ser. « Peut-être fe­rions-nous bien d’ap­puyer sur “Pause”, le temps d’ap­por­ter quelques né­ces­saires cor­rec­tifs ici et là, avant d’être confron­tés à une vé­ri­table ca­tas­trophe pla­né­taire... », a sug­gé­ré Mme Schle­sin­ger. Avec jus­tesse, d’après moi.

la

Newspapers in French

Newspapers from Canada

© PressReader. All rights reserved.