Le cauchemar «Black Mirror» devient réalité
Aux Etats-Unis, un homme a, pour la première fois, été arrêté à tort à cause d’un système de reconnaissance faciale. Amazon, Microsoft et d’autres fournisseurs de ce type de service pourraient bientôt faire face à une régulation fédérale
Black Mirror, c'est bien sûr la série dystopique, saluée par la critique, présentant un futur sombre marqué par d'incroyables dérives technologiques. Mais aux Etats-Unis, Black Mirror est déjà en partie réalité. Cette semaine, on apprenait qu'une personne avait été arrêtée pour la première fois à tort à cause d'un système de reconnaissance faciale. En parallèle, une université américaine a affirmé avoir développé un premier service, aussi basé sur cette technologie, pour prédire si une personne deviendra un criminel. Face à ces dérives, les démocrates veulent légiférer, ce qui aura des conséquences pour Amazon, acteur phare du secteur, et ses concurrents.
Robert Williams est ainsi entré dans l'histoire de la reconnaissance faciale. Cette semaine, cet Afro-Américain a porté plainte, avec l'aide de l'Union américaine pour les libertés civiles (ACLU) contre les autorités de Detroit (Michigan) pour une arrestation survenue par erreur en janvier. L'homme, accusé d'avoir volé cinq montres d'une valeur totale de 3800 dollars dans une bijouterie, avait alors passé 30 heures en détention. Arrêté et menotté devant chez lui, en présence de sa femme et de ses deux filles de 2 et 5 ans, il avait ensuite eu accès aux photos censées l'incriminer. Il s'agissait de deux clichés flous d'un homme noir. «L'ordinateur a dû se tromper», avait ensuite admis un policier.
Acteurs de l’ombre
«Faussement accusé par un algorithme», comme le résumait le New York Times cette semaine, Robert Williams serait ainsi la première victime connue de cette technologie. Son fournisseur: la société DataWorks, basée en Caroline du Sud, qui a intégré à son logiciel des composants développés par la société japonaise NEC et la firme américaine Rank One Computing. Cet exemple montre que si Amazon est l'acteur le plus connu de ce marché, avec son logiciel Rekognition, de nombreuses sociétés moins renommées y sont aussi actives, comme Vigilant Solutions, Cognitec ou encore Clearview AI, qui avait siphonné des milliards d'images des réseaux sociaux pour constituer sa base de données.
Ces entreprises doivent désormais s'attendre à une régulation au niveau national, pour l'heure inexistante. Cette semaine, quatre parlementaires démocrates, appartenant au Sénat et à la Chambre des représentants, ont présenté un projet de loi visant à bannir totalement l'usage de la reconnaissance faciale sur le territoire américain. Un arrêt total de son utilisation, mais aussi du financement de projets de recherche, est ainsi exigé, avant qu'une législation fédérale n'encadre strictement cette technologie. Plusieurs villes, dont Oakland et San Francisco, ont déjà banni, sur leur territoire, l'usage de la reconnaissance faciale par les autorités.
La représentante démocrate Pramila Jayapal, l'une des initiatrices de ce projet de loi, affirmait cette semaine: «Pendant des années, j'ai demandé à des entreprises comme Amazon de cesser de vendre des technologies de reconnaissance faciale, qui non seulement étaient invasives, imprécises et non réglementées, mais qui ont aussi été utilisées sans excuses par les forces de l'ordre contre les Noirs de tout le pays pendant bien trop longtemps.» Comme le rappelait le New York Times, une récente étude incluant les algorithmes ayant conduit à l'arrestation de Robert Williams avait montré que les Afro-Américains et les Asiatiques étaient identifiés à tort dix à cent fois plus souvent que les Blancs.
Mi-juin, plusieurs géants de la technologie avaient annoncé des concessions dans le développement de la reconnaissance faciale, alors que le mouvement «Black Lives Matter» reprenait de la vigueur après le meurtre par un policier de l'Afro-Américain George Floyd. IBM annonçait qu'il quittait ce marché, Microsoft demandait une régulation nationale et Amazon affirmait vouloir mettre sur pause ses activités. Mais des associations américaines de défense des libertés individuelles soupçonnent les géants de la tech de double jeu. Ces associations «pensent que les entreprises pourraient essayer de rechercher à mettre en avant leur côté moral, tout en utilisant leur important pouvoir de lobbying pour faire pression en faveur de régulations légères qui profitent à leurs intérêts financiers», relevait récemment CNN.
Etude controversée
Robert Williams a eu accès aux photos censées l’incriminer: deux clichés flous d’un homme noir. «L’ordinateur a dû se tromper», a ensuite admis un policier
Ces débats interviennent alors que les regards se tournent aussi vers l'Université de Harrisburg, en Pennsylvanie. Cette semaine, certains de ses chercheurs ont affirmé avoir développé un logiciel capable de prédire si quelqu'un est un criminel, se basant uniquement sur une photo de son visage. Le logiciel est conçu pour aider les autorités à prévenir les actes criminels, selon des membres de cette université – ce qui fait bien sûr penser au film Minority Report de Steven Spielberg. Plus de 1700 chercheurs d'autres universités ont signé une lettre ouverte demandant que ces travaux ne soient pas publiés. L'Université de Harrisburg a prévu d'inclure ces documents de recherche dans un livre qui devrait être édité par Springer Nature, éditeur de la revue Nature. Mais cet éditeur a affirmé que la publication avait été refusée le 16 juin et que cette nouvelle avait été communiquée aux auteurs le 22 juin. ▅