Reconnaissance faciale: IBM laisse Amazon seul

Le groupe technologique new-yorkais IBM abandonne tout projet de recherche dans la reconnaissance faciale, en raison de risques trop élevés. Amazon voit ainsi sa position renforcée sur ce marché prometteur

C'est la première décision majeure d'un homme peu connu, pourtant à la tête de l'une des plus grandes sociétés high-tech américaine. Directeur d'IBM depuis avril, Arvind Krishna a annoncé lundi soir une décision qui aura des conséquences pour tous ses concurrents: l'abandon de tout projet lié à la reconnaissance faciale. Citant des risques trop élevés, le directeur d'IBM laisse ainsi le champ libre sur le marché occidental à Amazon, dont le logiciel Rekognition, utilisé par plusieurs polices américaines, fait débat.

Dans une lettre adressée à plusieurs parlementaires américains, Arvind Krishna affirme qu'il veut tirer un trait clair sur le passé de sa société. «IBM s'oppose fermement et ne tolérera pas l'utilisation de toute technologie, y compris la technologie de reconnaissance faciale proposée par d'autres fournisseurs, à des fins de surveillance de masse, de profilage racial, de violation des droits de l'homme et des libertés fondamentales, ou à toute autre fin qui ne serait pas conforme à nos valeurs et à nos principes», écrit le directeur de la société basée à New York. Selon lui, «il est temps d'entamer un dialogue national sur la question de savoir si et comment la technologie de reconnaissance faciale doit être utilisée par les services répressifs nationaux».

Manque de fiabilité

Cette annonce intervient en plein débat, aux Etats-Unis, sur le comportement de la police et des biais raciaux après le meurtre de George Floyd. Ce changement de stratégie pourrait améliorer l'image d'IBM, entachée de plusieurs affaires justement liées à la reconnaissance faciale – en 2019, la société avait utilisé, pour entraîner ses algorithmes, un million de clichés issus du service de partage de photos Flickr, sans le consentement des sujets. Selon l'agence Reuters, les décisions annoncées lundi sur ce secteur d'activité ont en réalité été prises ces derniers mois. Et IBM ne réalisait pas un chiffre d'affaires important avec la reconnaissance faciale, affirme CNBC.

Cette technologie subit des attaques depuis des mois, notamment à cause de son manque de fiabilité – en particulier avec les personnes de couleur. «Microsoft a souffert de virulentes critiques à la suite d'un projet visant à développer l'intelligence artificielle pour l'immigration et l'application des lois douanières. La société a même demandé au

ARVIND KRISHNA

Congrès […] de réglementer l'utilisation de la technologie de la reconnaissance faciale», relevait mardi dans une note John Plassard, directeur adjoint chez Mirabaud & Cie. «Google a finalement décidé de ne pas renouveler un contrat avec le Pentagone qui prévoyait l'utilisation de la reconnaissance faciale pour améliorer la performance des opérations militaires des drones», notait aussi le responsable.

L’exemple de l’Oregon

Voilà le champ libre pour Amazon, même si la société «a subi de fortes pressions de la part de ses actionnaires, de l'American Civil Liberties Union (organisation de la défense de la vie privée) et de son personnel concernant l'utilisation de son logiciel Rekognition par la police pour identifier les personnes», détaillait le responsable de Mirabaud. Ce qui ne l'empêche pas de vendre ce programme à de plus en plus de forces de police américaines. Fin avril, le Washington Post racontait ainsi que Rekognition avait été utilisé en Oregon, avec succès, pour identifier une femme qui avait volé l'équivalent de 12 francs de gaz de soudure dans une quincaillerie.

Mais tout ne se passe pas toujours si bien. Dans ce même article, le journal américain affirmait qu'Amazon précisait que la police ne devait utiliser Rekognition que lorsque les résultats étaient proposés avec un degré de certitude de 99%. Mais en pratique, des policiers se voient offrir cinq correspondances possibles pour une recherche, même si le pourcentage est nettement moins élevé que 99%. Avec du coup un risque d'erreur important.

Vu comme le numéro un du marché de la reconnaissance faciale – même si aucun chiffre précis n'existe –, Amazon a déjà pu démocratiser son produit. La police de Washington County, dans l'Oregon, ne dépense ainsi que l'équivalent de 7 francs par mois pour toutes ses recherches dans sa base de données.

▅

DIRECTEUR GÉNÉRAL D IBM

«IBM ne tolérera pas l’utilisation de la technologie de reconnaissance faciale à des fins de surveillance de masse ou de profilage racial»