BIG BROTHER IS (REALLY) WATCHING YOU !
Utilisée massivement en Chine pour surveiller les citoyens, la reconnaissance faciale suscite des débats aux Etats-Unis et en Europe.
Emoi sur Internet. Fin novembre 2018, une image fait le tour de Weibo. Sur le grand réseau social chinois, une photo d’une célèbre femme d’affaires, Dong Mingzhu, se diffuse rapidement. Le cliché, pris dans la ville de Ningbo, dans le nordest du pays, montre le visage de la dirigeante de Gree Electric, affiché sur un écran géant public. Une caméra de surveillance a repéré et exposé aux yeux de tous le nom de cette piétonne incivile traversant au feu rouge. Sauf que Dong Mingzhu n’a jamais été présente sur les lieux. Le système de reconnaissance faciale l’a confondue avec son portrait, dans une publicité placardée sur le flanc d’un bus. « Ce n’est sans doute pas la première fois qu’une telle méprise survient mais, dans ce cas précis, le retentissement fut très important, car cette femme est bien connue de tous », estime Xinmei Shen, journaliste chez Abacus News, à l’origine de l’article sur cette histoire. La police reconnaît la bévue, annule le procès-verbal et certifie qu’une telle erreur ne se reproduira plus grâce à une amélioration du système.
L’anecdote, sans conséquence, met en évidence les errances de l’intelligence artificielle utilisée en Chine pour retrouver des criminels en fuite ou scruter le comportement des citoyens. « Elle démontre les risques de vulnérabilité mais aussi de manipulations possibles d’une telle technologie, analyse Théodore Christakis, professeur, directeur adjoint du Grenoble Alpes Data Institute et membre du Conseil national du numérique. Il est fondamental de comprendre le fonctionnement des algorithmes et comment ils peuvent se tromper. »
Le sujet devient d’autant plus sensible que l’empire du Milieu a lancé Skynet (ou Safe City), un programme national de surveillance à grande échelle de sa population. D’ores et déjà, quelque 170 millions de caméras ont été déployées.
Une tendance qui n’épargne pas l’Occident, même si l’usage de la reconnaissance faciale y diffère sensiblement. « Elle peut être utile pour le contrôle aux frontières ou pour la lutte antiterroriste. Mais les risques d’abus par les gouvernements restent très importants. Voilà pourquoi en Europe plusieurs textes, comme la Convention des droits de l’homme, protègent les citoyens », ajoute Théodore Christakis. Et la société veille aussi.
LA POLÉMIQUE ENFLE
Outre-Atlantique, l’Union américaine pour les libertés civiles a prouvé que l’outil Rekognition, d’Amazon, a confondu avec des criminels 28 membres du Congrès, dont une grande partie de Latino et Afro-Américains. Vendue aux forces de l’ordre, notamment dans le comté de Washington (Oregon), cette solution technique a suscité l’opposition de plus de 450 salariés en interne, mais également de certains actionnaires du géant du commerce en ligne. Fin janvier, un groupe a même adressé une lettre au conseil d’administration afin d’interdire son utilisation par des agences gouvernementales. « A moins que le conseil ne conclue, après une évaluation indépendante, que cette technologie ne contribue pas à des violations avérées ou potentielles des droits de l’homme et des citoyens », se clôt la missive. La polémique enfle aux Etats-Unis, et Microsoft a demandé l’instauration d’une loi afin d’encadrer l’usage de la reconnaissance faciale. En Chine, ce débat n’a jamais vraiment débuté.